当前所在位置:首页 > 联华证券

Gemini上线第一天被质疑“造假”,谷歌这样回应

7678

2024-05-15 【 字体:

和人类玩儿猜谜游戏,快速准确地识别视频中的动作并猜出电影来源,根据画面中的电吉他播放相应的音乐,不仅能识别手写物理题还能给出解题步骤……Google大模型Gemini上线时一段震撼业界的演示视频如今被质疑造假。

有人质疑,这段视频并非实时录制,而是多轮尝试并精心挑选和剪辑而成。根据 YouTube 上的视频描述,可以发现 Google 有一个重要的免责声明:“为了演示的目的,他们已经减少延迟,为了简洁,Gemini 的输出也缩短了。” 这意味着Gemini真实的响应时间要比视频中长。

第一财经记者留意到,Google官方后续发布了一篇名为《How it’s Made: Interacting with Gemini through multimodal prompting》的博客文章,列举了视频中演示的过程,可以看到的是,Gemini实现多模态交互需要经过多次提示和调试,并不仅仅是缩短了时间,而且Gemini所有的这些交互是通过提示词问出来的。也就是说,官方视频演示是使用了原始镜头中的静止图像帧,然后编写了文本提示,让 Gemini 进行回应。

例如,在官方演示视频中,一只手在镜头前做出变幻手势。Gemini 很快回应:“我知道你在做什么。你在玩石头、剪刀、布!”看起来,AI能够马上直接看懂人类的手势游戏。

但博客中这样描述了背后实现的过程: 当“喂”给AI一张伸出手掌做出“布”的手势图时,Gemini的回答是:“这是一个人的右手,并且手指分开”。当它看到一张比划“剪刀”的手势图时,Gemini回答自己看到了一只伸出两个手指的手,通常是数字2的常用符号。当比划“石头”握紧拳头,Gemini认为是有人在敲门。最后,当“石头剪刀布”三张手势图放在一起,并且提示它“这是一个游戏后”,Gemini才终于答对。

再如,在逻辑推理相关的视频演示中,人类把画有太阳、土星和地球的图片展示给 Gemini,并问道:“这是正确的顺序吗? Gemini马上纠正:“不,正确顺序是太阳、地球、土星。”

而实际上,这一视频背后的实现过程中,人类需要给出提示词:“考虑到与太阳的距离,这个顺序对吗?并解释你的理由。”此后,Gemini 才给出了正确回答 。

但面对“造假”质疑,Google予以否认。记者留意到,Google DeepMind和深度学习副总裁、Gemini联合负责人奥里奥尔·维亚莱斯(Oriol Vinyals)发文表示:“该视频展示了使用Gemini构建的多模态用户体验,视频中使用Gemini Ultra的所有用户提示和输出都是真实的,为了简洁起见缩短了时间。”他还透露Google将在 12 月 13 日开放Gemini Pro的访问权限,届时开发者可以尝试类似的实践。

除了视频质疑之外,也有用户在使用中发现,在一些情况下,Gemini并没有正确反映真实的情况,例如,有用户测试后发现,对于2023年奥斯卡获奖者,Gemini Pro错误地表示最佳男主角是布兰登·格里森(Brendan Gleeson),而不是真正的得主布兰登·弗雷泽 (Brendan Fraser)。而当被要求给出6个字母的法语单词时,Gemini Pro给出了错误答案。

此外,Google援引的MMLU测试表格显示,在Gemini Ultra 90.0%的分数下面标有CoT@32,也就是“使用了思维链提示技巧、尝试32次选最好样本”;而GPT4 86.4%分数下却是5-shot。测试还显示Gemini Ultra对于GPT4只有几个百分点的微弱优势,但GPT4的发布时间早于Gemini半年以上。

在使用行业标准5-shot MMLU的情况下,HuggingFace技术主管Philipp Schmid根据技术报告中的数据重新分析并得出结论:假设使用5-shot,Gemini的得分实为83.7%,而非90.0%;GPT4则取得86.4%的得分。

对于视频造假质疑,一位AI行业从业者对第一财经记者表示,尽管官方声称是为了简洁展现而缩短了时间,但从官方后续的博客描述来看,此前的演示视频确实存在一定的误导性,会让外界误认为Gemini的响应和交互速度、准确性如视频所演示的那样,但其实它并未展示出全部的真实。

也有投资人表示,这或许也反映出新一波AI浪潮之下Google的焦虑。此前凭借AlphaGo在围棋领域的表现,Google在全球掀起了一波AI浪潮。但这一轮AI新浪潮的风头却被OpenAI的ChatGPT抢走,Google需要一款现象级AI产品来证明自己在人工智能领域的实力。毕竟产品的真正实力不能只看宣传片,更重要的还是在实际应用中的比试,届时用户将“用脚投票”。

举报 第一财经广告合作,请点击这里此内容为第一财经原创,著作权归第一财经所有。未经第一财经书面授权,不得以任何方式加以使用,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。 如需获得授权请联系第一财经版权部:021-22002972或021-22002335;banquan@yicai.com。 文章作者

刘佳

关键字

GoogleGeminiAI演示视频

相关阅读 记录托举智能时代的力量,商汤入选第一财经《2023数字中国年度案例》

这背后,是商汤成立9年来在AI领域的坚定投入和扎实运营。

2023-12-19 20:32 AI技术如何帮助药物研发?上海启动这个大赛

上海发起2023(首届)上海国际计算生物学创新大赛——药物筛选AI算法“凌越”挑战赛,于 12月15日正式上线。

2023-12-15 17:14 AI板块迎密集催化期,反弹行情如火如荼,哪些方向值得重点关注?

二级市场上,AI概念持续反弹,近5日Wind人工智能指数涨6.56%。

2023-12-12 19:01 教育板块冲高,AI赋能下行业应用有望加快落地

机构指出,Pika 1.0和Gemini为代表的AI多模态模型不断突破,或推动大模型在教育、办公等领域的应用加快落地并打开商业化空间。

2023-12-12 10:32 专业、理性、耐心,启明创投叶冠泰的科技投资方法论

在早期锁定优质公司并非一件易事。叶冠泰认为,产品能否做出来,和产品未来的市场空间,决定了一家企业是否值得被投资。

2023-12-12 09:54 一财最热 点击关闭

阅读全文
相关推荐

注册公司是否需要办公地址?

注册公司是否需要办公地址?
title===>注册公司是否需要办公地址?[field]body===>在注册...

当前活跃的配资平台一览

当前活跃的配资平台一览
title===>当前活跃的配资平台一览[field]body===>配资平台是...

阅读是诗意的殿堂和文字的盛宴

阅读是诗意的殿堂和文字的盛宴
茶亦醉人何必酒,书能香我不须花。我常常以这样的格言自足。捧书而眠,嚼字为生,亦是...

珠海冠宇(688772SH):苹果是公司重要客户 目前供应的产品主要为笔记本及手机电池

珠海冠宇(688772SH):苹果是公司重要客户 目前供应的产品主要为笔记本及手机电池
格隆汇7月19日丨珠海冠宇(688772.SH)披露投资者关系活动记录表显示,苹...

减持竟为前夫借款?信邦制药董事长涉离婚风波

减持竟为前夫借款?信邦制药董事长涉离婚风波
近日,A股上市公司信邦制药董事长安吉与前夫、服饰品牌bosie(伯喜)创始人刘光...

无索不玩 Chinajoy索泰展台人气拉满

无索不玩  Chinajoy索泰展台人气拉满
一年一度的ChinaJoy展会如期而至,作为全球知名的数字娱乐盛会,今年的展会吸...

股票买入后何时获利了结:最佳卖出时机指南

股票买入后何时获利了结:最佳卖出时机指南
title===>股票买入后何时获利了结:最佳卖出时机指南[field]body...

【环时深度】13年了,“沃尔夫条款”让美国作茧自缚

【环时深度】13年了,“沃尔夫条款”让美国作茧自缚
【环球时报驻美国特约记者 李准 环球时报记者 樊巍】编者的话:最近,美国航天界面...

中国中铁控股的中铁建工集团有限公司新增1条被执行人信息,执行标的6228万元

中国中铁控股的中铁建工集团有限公司新增1条被执行人信息,执行标的6228万元
被执行人信息如下:案号:(2024)黔0102执9867号被执行人:中铁建工集团...

股票中签后缴款流程详解:一步步教你完成缴款

股票中签后缴款流程详解:一步步教你完成缴款
title===>股票中签后缴款流程详解:一步步教你完成缴款[field]bod...