Gemini上线第一天被质疑“造假”,谷歌这样回应
2024-05-15 【 字体:大 中 小 】

和人类玩儿猜谜游戏,快速准确地识别视频中的动作并猜出电影来源,根据画面中的电吉他播放相应的音乐,不仅能识别手写物理题还能给出解题步骤……Google大模型Gemini上线时一段震撼业界的演示视频如今被质疑造假。
有人质疑,这段视频并非实时录制,而是多轮尝试并精心挑选和剪辑而成。根据 YouTube 上的视频描述,可以发现 Google 有一个重要的免责声明:“为了演示的目的,他们已经减少延迟,为了简洁,Gemini 的输出也缩短了。” 这意味着Gemini真实的响应时间要比视频中长。
第一财经记者留意到,Google官方后续发布了一篇名为《How it’s Made: Interacting with Gemini through multimodal prompting》的博客文章,列举了视频中演示的过程,可以看到的是,Gemini实现多模态交互需要经过多次提示和调试,并不仅仅是缩短了时间,而且Gemini所有的这些交互是通过提示词问出来的。也就是说,官方视频演示是使用了原始镜头中的静止图像帧,然后编写了文本提示,让 Gemini 进行回应。
例如,在官方演示视频中,一只手在镜头前做出变幻手势。Gemini 很快回应:“我知道你在做什么。你在玩石头、剪刀、布!”看起来,AI能够马上直接看懂人类的手势游戏。
但博客中这样描述了背后实现的过程: 当“喂”给AI一张伸出手掌做出“布”的手势图时,Gemini的回答是:“这是一个人的右手,并且手指分开”。当它看到一张比划“剪刀”的手势图时,Gemini回答自己看到了一只伸出两个手指的手,通常是数字2的常用符号。当比划“石头”握紧拳头,Gemini认为是有人在敲门。最后,当“石头剪刀布”三张手势图放在一起,并且提示它“这是一个游戏后”,Gemini才终于答对。
再如,在逻辑推理相关的视频演示中,人类把画有太阳、土星和地球的图片展示给 Gemini,并问道:“这是正确的顺序吗? Gemini马上纠正:“不,正确顺序是太阳、地球、土星。”
而实际上,这一视频背后的实现过程中,人类需要给出提示词:“考虑到与太阳的距离,这个顺序对吗?并解释你的理由。”此后,Gemini 才给出了正确回答 。
但面对“造假”质疑,Google予以否认。记者留意到,Google DeepMind和深度学习副总裁、Gemini联合负责人奥里奥尔·维亚莱斯(Oriol Vinyals)发文表示:“该视频展示了使用Gemini构建的多模态用户体验,视频中使用Gemini Ultra的所有用户提示和输出都是真实的,为了简洁起见缩短了时间。”他还透露Google将在 12 月 13 日开放Gemini Pro的访问权限,届时开发者可以尝试类似的实践。
除了视频质疑之外,也有用户在使用中发现,在一些情况下,Gemini并没有正确反映真实的情况,例如,有用户测试后发现,对于2023年奥斯卡获奖者,Gemini Pro错误地表示最佳男主角是布兰登·格里森(Brendan Gleeson),而不是真正的得主布兰登·弗雷泽 (Brendan Fraser)。而当被要求给出6个字母的法语单词时,Gemini Pro给出了错误答案。
此外,Google援引的MMLU测试表格显示,在Gemini Ultra 90.0%的分数下面标有CoT@32,也就是“使用了思维链提示技巧、尝试32次选最好样本”;而GPT4 86.4%分数下却是5-shot。测试还显示Gemini Ultra对于GPT4只有几个百分点的微弱优势,但GPT4的发布时间早于Gemini半年以上。
在使用行业标准5-shot MMLU的情况下,HuggingFace技术主管Philipp Schmid根据技术报告中的数据重新分析并得出结论:假设使用5-shot,Gemini的得分实为83.7%,而非90.0%;GPT4则取得86.4%的得分。
对于视频造假质疑,一位AI行业从业者对第一财经记者表示,尽管官方声称是为了简洁展现而缩短了时间,但从官方后续的博客描述来看,此前的演示视频确实存在一定的误导性,会让外界误认为Gemini的响应和交互速度、准确性如视频所演示的那样,但其实它并未展示出全部的真实。
也有投资人表示,这或许也反映出新一波AI浪潮之下Google的焦虑。此前凭借AlphaGo在围棋领域的表现,Google在全球掀起了一波AI浪潮。但这一轮AI新浪潮的风头却被OpenAI的ChatGPT抢走,Google需要一款现象级AI产品来证明自己在人工智能领域的实力。毕竟产品的真正实力不能只看宣传片,更重要的还是在实际应用中的比试,届时用户将“用脚投票”。
举报 第一财经广告合作,请点击这里此内容为第一财经原创,著作权归第一财经所有。未经第一财经书面授权,不得以任何方式加以使用,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。 如需获得授权请联系第一财经版权部:021-22002972或021-22002335;banquan@yicai.com。 文章作者
刘佳
关键字GoogleGeminiAI演示视频
相关阅读
这背后,是商汤成立9年来在AI领域的坚定投入和扎实运营。
2023-12-19 20:32 AI技术如何帮助药物研发?上海启动这个大赛上海发起2023(首届)上海国际计算生物学创新大赛——药物筛选AI算法“凌越”挑战赛,于 12月15日正式上线。
2023-12-15 17:14
二级市场上,AI概念持续反弹,近5日Wind人工智能指数涨6.56%。
2023-12-12 19:01
机构指出,Pika 1.0和Gemini为代表的AI多模态模型不断突破,或推动大模型在教育、办公等领域的应用加快落地并打开商业化空间。
2023-12-12 10:32
在早期锁定优质公司并非一件易事。叶冠泰认为,产品能否做出来,和产品未来的市场空间,决定了一家企业是否值得被投资。
2023-12-12 09:54 一财最热 点击关闭
猜你喜欢

大家发现了吗?国内出现的三大反常变化,让外媒很着急! 第一个变化,出


【小陇画报·281期】成县:裴公湖畔景如画 荷花绽放夏意浓


港股异动 恒生银行(00011)午后转跌近5% 上半年纯利同比增长1% 拟派第二次中期息12港元


孔子后人孔令立履新 “立心力行”传承南孔文化


#2024成都车展# 最有品味汽车品牌之一,蔚来。


10年期美国国债收益率突破4% 日内上涨142个基点至4005%


保利发展(600048SH)完成回购088%股份 耗资1001亿元


安吉宏瑞运输有限公司被罚款7165元


日本的水果,昂贵到了吃不起的地步吗?网友:茶叶蛋了解一下


vivo不讲武德,从3699跌至2391元,旗舰双芯+144Hz+120W+5000mAh


正规股票配资:撬动财富杠杆,稳健投资致富?


软件炒股杠杆:放大收益也放大风险,如何玩转高倍率投资?


信任的股票融资网站:找到你的财务自由之路


实盘股票杠杆平台:高收益与高风险的博弈


股票杠杆开户:高风险高回报的双刃剑?


期货配资平台:高杠杆下的财富游戏与风险陷阱


烟台期货配资:撬动财富杠杆,把握市场机遇!


国家认可的配资公司:谨慎选择,稳健投资


炒股配资资金:高杠杆下的财富游戏,风险与机遇并存


股票配资资质:玩转杠杆,风险与机遇并存
