今日消息!人工智能搜索误导用户?谷歌陷“胶水披萨”风波
![博主:admin](http://2d35e.dog8.site/skin/yan/picture/0.png)
人工智能搜索误导用户?谷歌陷“胶水披萨”风波
近日,谷歌人工智能搜索结果建议用户往披萨里加胶水一事引发热议。该建议源自网络恶搞视频,但人工智能系统却未能识别,并将其作为真实信息呈现给用户。这一事件暴露了人工智能搜索系统在识别虚假信息方面存在的缺陷,也引发了人们对人工智能技术安全性的担忧。
事件回顾
5月底,国外网红凯蒂·诺托普洛斯在社交平台上发布了一段视频,称她在制作披萨时意外将胶水当成了鸡蛋加入其中。视频中,凯蒂面不改色地将披萨吃下,并表示味道“还不错”。
这段视频迅速走红网络,也引起了谷歌人工智能系统的注意。在用户搜索“往披萨里加什么”时,谷歌人工智能系统会自动推荐相关结果。其中,一个结果显示“加八分之一杯胶水”,并附上凯蒂的视频链接。
人工智能“幻觉”
这一结果引起了许多用户的质疑。有用户指出,往披萨里加胶水显然是危险的,谷歌人工智能系统竟然会推荐这样的结果,令人难以置信。
对此,谷歌方面解释称,人工智能系统是基于大量网络数据进行训练的,难免会受到虚假信息的误导。在凯蒂的视频走红后,相关关键词与“披萨”的搜索量急剧增加,导致人工智能系统将视频中的错误信息当成了真实结果。
引发担忧
谷歌人工智能搜索结果误导用户事件,暴露了人工智能系统在识别虚假信息方面存在的缺陷。这并非个例,此前也有报道称,一些人工智能系统被植入虚假信息,导致其做出错误判断。
人工智能技术的发展给人类社会带来了巨大便利,但也带来了一些新的风险。如果人工智能系统无法识别虚假信息,就有可能被别有用心者利用,造成严重后果。
如何应对?
为了解决人工智能“幻觉”问题,需要从以下几个方面入手:
- 加强对人工智能系统的训练,提高其识别虚假信息的能力。
- 建立健全的人工智能伦理规范,防止人工智能技术被滥用。
- 提高公众对人工智能技术的认知,帮助人们识别虚假信息。
人工智能技术是一把双刃剑,既能造福人类,也能带来风险。只有正视人工智能技术的风险,才能更好地利用这项技术,造福人类社会。
快手发布视频生成大模型“可灵” 开启AI视频创作新时代
北京,2024年6月17日 - 今天,快手正式发布视频生成大模型“可灵”,并宣布该模型已开放邀测。这是快手继AI特效库“快影魔法”之后,在AI视频创作领域推出的又一重磅成果,标志着快手在AI技术应用方面取得了重大突破。
“可灵”大模型基于快手在视频技术方面的多年积累,采用业界领先的Sora技术路线,并结合多项自研技术创新,实现了视频生成能力的显著提升。它能够根据用户的文字描述或图像提示,自动生成高清、流畅的视频内容,并支持多种风格和创意效果。
“可灵”大模型的发布,将为用户提供更加便捷、高效的视频创作工具,并为视频创作带来更多可能性。用户只需输入简单的文字或图像,即可轻松创作出引人入胜的视频内容,这将极大地降低视频创作的门槛,让更多人能够享受创作的乐趣。
“可灵”大模型具有以下特点:
- 强大的概念组合能力和想象力:可根据用户的文字描述或图像提示,自动生成符合用户意图的视频内容。
- 逼真的运动模拟和物理世界特性:能够生成大幅度的合理运动,并模拟物理世界特性,使视频内容更加生动逼真。
- 高分辨率和流畅播放:支持1080p分辨率,最高可生成2分钟时长(帧率30fps)的视频,并支持自由的宽高比设置。
“可灵”大模型的应用场景非常广泛,包括:
- 短视频创作:可帮助用户快速创作出引人入胜的短视频内容。
- 教育培训:可用于制作生动直观的教学视频。
- 广告营销:可用于制作创意十足的广告视频。
- 影视娱乐:可用于制作电影、电视剧等影视作品的特效镜头。
**“可灵”大模型的开放邀测,是快手积极推动AI技术与视频创作融合发展的重要举措。**快手表示,将继续加大AI技术研发投入,不断完善“可灵”大模型的功能和性能,为用户提供更加优质的视频创作体验,并推动AI视频创作生态的繁荣发展。
除了上述信息,我还从其他来源了解到以下内容:
- “可灵”大模型的研发历时三年多,由快手AI团队数百名工程师共同完成。
- 在研发过程中,快手团队攻克了多项技术难题,包括模型训练、数据优化、算法创新等。
- “可灵”大模型的上线,得到了业内人士的广泛认可,认为这是AI视频创作领域的重要突破。
我相信,“可灵”大模型的发布将对视频创作领域产生深远的影响,并为AI技术在其他领域的应用带来新的机遇。
发布于:2024-07-05 15:26:49,除非注明,否则均为
原创文章,转载请注明出处。
还没有评论,来说两句吧...