×

美国国会议员要求谷歌就 "人工智能概述 "做出答复

admin admin 发表于2024-09-10 15:02:00 浏览62 评论0

抢沙发发表评论

该请求承认谷歌目前在打击虚假信息方面所做的努力,但表示这些努力还不够。


美国国会议员要求谷歌就 "人工智能概述 "做出答复新闻




以众议员亚当-希夫(Adam Schiff)为首的一群美国立法者要求 Alphabet/Google 首席执行官桑达尔-皮查伊(Sundar Pichai)在 8 月 1 日这一最后期限前默认一项要求,即提供与该公司搜索 "人工智能概述 "功能相关的信息。


AI 概述 "是一个摘要窗口,当用户进行查询时,它将显示在谷歌搜索页面的顶部。它通常包含简短的文字回答、相关图片和支持链接。



暗模式下的 AI 概览。来源: Google.

据希夫办公室援引大量报告称,AI 概述有输出错误和/或潜在危险信息的倾向。


这份由希夫办公室发布并由其他四位国会议员共同签署的投诉要求回答与该功能有关的十一个问题,这些问题涉及该公司为确保更高的准确性和安全性所做的努力。


人工智能概览

AI 概览 "的一些问题源于它显然无法判断特定来源是否是讽刺。希夫和其他国会议员写道:"谷歌的人工智能概述功能告诉用户每天至少吃一块石头,以补充维生素和矿物质。"他们还补充说,人工智能引用的是讽刺新闻网站 "洋葱"。


在其他情况下,比如当用户开始报告人工智能概述称巴拉克-奥巴马是美国第一位穆斯林总统时,人工智能系统直接引用了被揭穿的阴谋论。


希夫在信中肯定了谷歌为打击错误信息所做的持续努力,但同时也指出,谷歌还需要做更多的工作:


"我们赞赏谷歌通过持续测试改进功能、删除违反公司内容政策的回复以及将人工智能生成的回复标注为实验性回复来修正这些错误。然而,要充分确保谷歌能够继续成为美国人值得信赖和可靠的信息来源,还必须做更多的工作。"

人工智能推理

截至目前,科学界对这类问题能否真正得到解决还没有达成共识。问题的要害在于,人工智能不会 "思考 "或 "推理",尽管这两个词在人工智能产品的营销中被普遍使用。


生成式人工智能系统会模仿人类说话,但却缺乏理解上下文的能力,也无法将积累的经验应用到实际情况中。


这些问题在该领域长期存在,早期的大型语言模型(如 OpenAI 的 GPT-2 和 Meta 现已停用的 "Galactica "系统)就存在这些问题。


美国的要求

为了进一步了解谷歌所做的努力,希夫和他的议员们要求皮查伊和谷歌在 8 月 1 日前回答 11 个问题。这些问题包括谷歌的排名程序、自动事实检查、准确性、来源、透明度以及如何与当局合作确保安全。


群贤毕至

访客