Anthropic公司公布了Constitutional AI，旨在促进其生成AI克劳德的道德行为和发展 | 速途网_焦点热门
2023-05-10 11:15:02
来源：速途网
(相关资料图)
速途网5月10日讯（报道：乔志斌）Anthropic是一家领先的人工智能公司，由前OpenAI工程师创立，在三月份为其生成AI克劳德注入了10个公平的秘密原则。该公司在周二的博客文章中进一步解释了其宪法AI系统的设计方式以及它的运作方式。
通常，在训练生成AI模型时，需要一个人来提供质量控制和反馈输出，就像ChatGPT或Bard会要求您对其系统的交谈进行评分一样。Anthropic团队写道：“对我们而言，这包括让人类承包商比较两个回答，并选择他们认为更好的那个，根据某些原则（例如，选择更有帮助或更无害的回答）。”
它采用了一种新颖的方法来应对日益强大的AI系统带来的道德和社会挑战：给它们制定一部宪法。周二，该公司公开发布了其最新的对话AI模型Constitutional AI，该模型可以生成文本、图像和代码。宪法概述了克劳德在与用户互动时必须遵循的一系列价值观和原则，例如要有益、无害和诚实。它还指定了克劳德应如何处理敏感话题、尊重用户隐私和避免非法行为。
Anthropic是少数几家专门从事开发通用AI系统和语言模型的初创公司之一，这些系统旨在在不同领域执行广泛的任务。该公司最近发布了其首款产品——克劳德，这是一个基于Constitutional AI技术训练的对话AI模型。该技术使模型能够根据一组原则自我评估和修改其输出，并选择更要有益、无害和诚实的回答
标签：
