出师不利!谷歌Bard答题犯下事实性错误


(资料图片)

据英国《新科学家》网站8日报道,谷歌人工智能(AI)搜索工具Bard在推广活动中,在回答与詹姆斯·韦布空间望远镜有关的问题时犯下事实性错误,加剧了人们对这些工具还没有准备好集成到搜索引擎中的担忧。

英国牛津大学的凯莉莎·维兹表示,有证据表明,使用此类AI聊天机器人为网络搜索提供结果发生得太快了,“大规模制造错误信息的可能性很大”。

去年11月,得到微软加持的美国加州初创企业OpenAI推出了聊天机器人ChatGPT,这一系统短短两个月就有了上亿用户。

ChatGPT搅动了互联网江湖的“一池春水”。谷歌本周宣布,将推出AI工具Bard,测试后将其整合到自己的搜索引擎内,为用户提供定制答复,而非仅仅列出相关网站列表。中国搜索引擎巨头百度公司近日也宣布了类似计划。2月7日,微软为其搜索引擎必应推出了自己的AI搜索服务。

但有专家警告说,这类机器人可能会给出不准确的回答,因为它们基于信息的统计性而非准确性输出结果。2月8日,谷歌在推特上发布的一则广告显示,Bard在回答“关于詹姆斯·韦布空间望远镜(JWST),我可以告诉我9岁孩子它有何新发现?”这一问题时,给出了错误的结果。

Bard给出的一个答案是:第一张太阳系外行星的照片由JWST拍摄。但哈佛—史密森天体物理中心的格兰特·特朗布莱指出,这并非事实,2004年欧洲南方天文台的甚大望远镜(VLT)拍摄了第一张系外行星照片。

维兹表示,这个错误说明,在精确度很重要的情况下,依赖AI模型存在一定风险。她说:“这完美地显示了统计系统最重要的弱点,这些系统旨在根据统计分析给出(看似合理)的答案,而非给出真实的答案。”

关键词: