![](\"https://pic1.zhimg.com/v2-24a0ec41cb0512d9114da8ecde9dc8f8_b.jpg\")
![](\"https://pic1.zhimg.com/v2-24a0ec41cb0512d9114da8ecde9dc8f8_r.jpg\")
你好，欢迎访问个人主页！
擅长密码学，安全分析，数字水印等技术。
你可以联系我通过:findmykexin@gmail.com或者知乎私信。
我的知乎链接：苏迟但到 - 知乎 (zhihu.com)
我的github链接：kexinoh
","icon":"https://kexohcdn.gptapi.cyou/kexohproject/production/images/channel-2e54d141ee195646ca12a9d16507a908.jpg","favicon":"https://kexohcdn.gptapi.cyou/kexohproject/production/images/favicon-340a2925d02a0386f3b954a032834917.jpg","authors":[{"name":"苏迟但到"}],"language":"zh-cn","items":[{"id":"iC-aoO2Htgv","title":"谷歌发布全新诊断对话式AI在测试中击败医生，通过了图灵测试，如何看待此研究？AI医疗未来会如何发展？","content_html":"作者:Kyle Wiggers
原文地址:Yahoo
本周二，初创公司Anthropic发布了一系列生成式人工智能模型，声称其实现了最佳性能。仅仅几天后，竞争对手Inflection AI推出了一款模型，声称这款模型接近匹敌一些最具能力的模型，包括OpenAI的GPT-4，在质量上。
Anthropic和Inflection绝非第一家声称其模型在某种客观标准下达到或超越竞争对手的人工智能公司。谷歌在发布Gemini模型时也提出了同样的观点，OpenAI也曾这样说过GPT-4及其前身GPT-3、GPT-2和GPT-1。此类例子不胜枚举。
但他们所谈论的指标是什么？当供应商表示某个模型实现了最先进的性能或质量时，这到底意味着什么？更重要的是：一个在技术上“表现”比其他模型更好的模型，是否会在实际中以一种有形的方式得到改进？
对于最后一个问题，可能性不大。
原因——或者说，问题——在于人工智能公司用来量化模型优势和劣势的基准测试。
晦涩的衡量标准x
如今对于人工智能模型最常用的基准测试——特别是像OpenAI的ChatGPT和Anthropic的Claude这样的聊天机器人驱动模型——在捕捉被测试模型与普通人的互动方式方面做得并不好。例如，Anthropic在其最近的公告中引用的一个基准测试GPQA（“一个毕业级别的谷歌防护问答基准测试”），包含数百个博士级别的生物学、物理学和化学问题，然而大多数人使用聊天机器人的任务是回复电子邮件、撰写求职信和谈论他们的感受。
艾伦人工智能研究所的科学家杰西·道奇表示，该行业已经到达了“评估危机”。
“基准测试通常是静态的，狭窄地专注于评估单一能力，比如模型在单一领域的事实性，或者其解决数学推理多项选择问题的能力，”道奇在接受TechCrunch采访时说。“许多用于评估的基准测试已经有三年以上的历史，当时人工智能系统主要只用于研究，并没有太多真实用户。此外，人们以许多方式使用生成式人工智能——他们非常有创造力。”
错误和其他缺陷
除了与使用案例不符合之外，一些基准测试是否能够正确衡量它们所声称要衡量的东西也是一个问题。对于旨在评估模型常识推理能力的HellaSwag测试的分析发现，超过三分之一的测试问题包含拼写错误和“毫无意义”的写作。另外，MMLU（“大规模多任务语言理解”）是一个基准测试，谷歌、OpenAI和Anthropic等供应商指出他们的模型可以通过它来推理逻辑问题，但该测试提出的问题可以通过死记硬背来解决。
修复问题
基准测试存在问题。但它们能够修复吗？
道奇认为可以——通过更多的人类参与。“在这里，正确的前进道路是结合基准测试和人类评估，”她说，“提出一个真实用户查询，然后雇佣一个人评价响应的好坏。”
至于维德尔，他对今天的基准测试持更为悲观的态度——即使修复了更明显的错误，比如拼写错误——也不能改进到对大多数生成式人工智能模型用户具有信息量的程度。相反，他认为，对模型的测试应该专注于这些模型的下游影响，并评估这些影响，无论是好是坏，对受影响者是否被认为是可取的。
“我会问我们想让人工智能模型能够用于哪些具体的情境目标，评估它们在这些情境中是否会成功，”他说。“而且希望，这个过程还涉及评估我们是否应该在这些情境中使用人工智能。”
","content_text":"作者:Kyle Wiggers\n\n原文地址:Yahoo\n\n本周二，初创公司Anthropic发布了一系列生成式人工智能模型，声称其实现了最佳性能。仅仅几天后，竞争对手Inflection\nAI推出了一款模型，声称这款模型接近匹敌一些最具能力的模型，包括OpenAI的GPT-4，在质量上。\n\nAnthropic和Inflection绝非第一家声称其模型在某种客观标准下达到或超越竞争对手的人工智能公司。谷歌在发布Gemini模型时也提出了同样的观点，OpenAI也曾这样说过GPT-4及其前身GPT-3、GPT-2和GPT-1。此类例子不胜枚举。\n\n但他们所谈论的指标是什么？当供应商表示某个模型实现了最先进的性能或质量时，这到底意味着什么？更重要的是：一个在技术上“表现”比其他模型更好的模型，是否会在实际中以一种有形的方式得到改进？\n\n对于最后一个问题，可能性不大。\n\n原因——或者说，问题——在于人工智能公司用来量化模型优势和劣势的基准测试。\n\n晦涩的衡量标准x\n如今对于人工智能模型最常用的基准测试——特别是像OpenAI的ChatGPT和Anthropic的Claude这样的聊天机器人驱动模型——在捕捉被测试模型与普通人的互动方式方面做得并不好。例如，Anthropic在其最近的公告中引用的一个基准测试GPQA（“一个毕业级别的谷歌防护问答基准测试”），包含数百个博士级别的生物学、物理学和化学问题，然而大多数人使用聊天机器人的任务是回复电子邮件、撰写求职信和谈论他们的感受。\n\n艾伦人工智能研究所的科学家杰西·道奇表示，该行业已经到达了“评估危机”。\n\n“基准测试通常是静态的，狭窄地专注于评估单一能力，比如模型在单一领域的事实性，或者其解决数学推理多项选择问题的能力，”道奇在接受TechCrunch采访时说。“许多用于评估的基准测试已经有三年以上的历史，当时人工智能系统主要只用于研究，并没有太多真实用户。此外，人们以许多方式使用生成式人工智能——他们非常有创造力。”\n\n[https://pic1.zhimg.com/v2-24a0ec41cb0512d9114da8ecde9dc8f8_b.jpg][data:image/svg+xml;utf8,<svg\nxmlns='http://www.w3.org/2000/svg' width='525'\nheight='472'></svg>]Test questions from the HellaSwag\nbenchmark.\n\n错误和其他缺陷\n除了与使用案例不符合之外，一些基准测试是否能够正确衡量它们所声称要衡量的东西也是一个问题。对于旨在评估模型常识推理能力的HellaSwag测试的分析发现，超过三分之一的测试问题包含拼写错误和“毫无意义”的写作。另外，MMLU（“大规模多任务语言理解”）是一个基准测试，谷歌、OpenAI和Anthropic等供应商指出他们的模型可以通过它来推理逻辑问题，但该测试提出的问题可以通过死记硬背来解决。\n\n修复问题\n基准测试存在问题。但它们能够修复吗？\n\n道奇认为可以——通过更多的人类参与。“在这里，正确的前进道路是结合基准测试和人类评估，”她说，“提出一个真实用户查询，然后雇佣一个人评价响应的好坏。”\n\n至于维德尔，他对今天的基准测试持更为悲观的态度——即使修复了更明显的错误，比如拼写错误——也不能改进到对大多数生成式人工智能模型用户具有信息量的程度。相反，他认为，对模型的测试应该专注于这些模型的下游影响，并评估这些影响，无论是好是坏，对受影响者是否被认为是可取的。\n\n“我会问我们想让人工智能模型能够用于哪些具体的情境目标，评估它们在这些情境中是否会成功，”他说。“而且希望，这个过程还涉及评估我们是否应该在这些情境中使用人工智能。”","date_published":"2024-03-08T06:18:41.000Z","_microfeed":{"web_url":"https://kexohproject.pages.dev/i/aiai-iC-aoO2Htgv/","json_url":"https://kexohproject.pages.dev/i/iC-aoO2Htgv/json/","rss_url":"https://kexohproject.pages.dev/i/iC-aoO2Htgv/rss/","guid":"iC-aoO2Htgv","status":"published","itunes:title":"New Article Title for iTunes","date_published_short":"Fri Mar 08 2024","date_published_ms":1709878721000}}],"_microfeed":{"microfeed_version":"0.1.2","base_url":"https://kexohproject.pages.dev","categories":[{"name":"Education","categories":[{"name":"Language Learning"}]},{"name":"Technology"}],"subscribe_methods":[{"name":"RSS","type":"rss","url":"https://kexohproject.pages.dev/rss/","image":"https://kexohproject.pages.dev/assets/brands/subscribe/rss.png","enabled":true,"editable":false,"id":"4KlfbtkEfzy"},{"name":"JSON","type":"json","url":"https://kexohproject.pages.dev/json/","image":"https://kexohproject.pages.dev/assets/brands/subscribe/json.png","enabled":true,"editable":false,"id":"DVFm7TYiNSq"}],"description_text":"你好，欢迎访问个人主页！\n\n擅长密码学，安全分析，数字水印等技术。\n\n你可以联系我通过:findmykexin@gmail.com或者知乎私信。\n\n我的知乎链接：苏迟但到 - 知乎 (zhihu.com)\n\n我的github链接：kexinoh","copyright":"©2024","itunes:type":"episodic","items_sort_order":"newest_first"}}