中工娱乐

防范“AI公然说谎”亟待平台尽更多责

来源:湖南日报
2025-01-06 15:57

原标题:防范“AI公然说谎”亟待平台尽更多责

“自2025年1月1日起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”如果你通过AI咨询“多大年纪的老年人在宁波可以免费乘坐公交”相关问题,可能会获得这样的回答。然而,这个看上去有鼻子有眼的回答,却是一条彻头彻尾的假消息。

近年来,生成式AI迅速进入我们的生活——通过简单提问,就能快速生成文本、图片、音频、视频和虚拟场景,已广泛应用于多个方面。与此同时,涉及AI造假、造谣的现象也日益增多,例如AI假冒名人带货事件已发生多起,AI生成的假消息同样不少,对公众造成误导,扰乱了社会秩序。

询问同样一个问题,为何不同AI软件给出不同答案,有的为何公然说谎?有AI软件客服表示,目前这类软件存在较多局限性,生成内容可能不准确,正在持续优化相关模型体验。笔者以为,这应该与某些AI软件大模型在采集数据时“胡子眉毛一把抓”、没有侧重权威渠道有关。

而且某些AI软件生成的内容除不实外,还存在语句不通、错别字较多等常识性弊病,反映出这些AI软件目前尚不成熟。对此,我们既要以包容心态来看待,鼓励其不断发展、走向成熟,同时也有必要提醒相关平台以负责任态度完善技术手段,尽可能减少或避免“AI公然说谎”等问题。

从现实情况看,防范“AI公然说谎”等问题,需要平台在对AI软件生成的内容进行显著标识外,同时提醒用户通过权威渠道去核实信息。应根据不同情况完善AI大模型,并明确其数据采集源头,比如涉及公共服务的数据就应依托权威渠道采集、使用。(冯海宁

责任编辑:李靖

媒体矩阵


  • 中工网客户端
           

  • 中工网微信号
           

  • 中工网微博号
           

  • 中工网抖音号

中工网客户端

亿万职工的网上家园

马上体验

关于我们 |版权声明 | 违法和不良信息举报电话:010-84151598 | 网络敲诈和有偿删帖举报电话:010-84151598
Copyright © 2008-2024 by www.workercn.cn. all rights reserved

扫码关注

全国总工会
微信


中工网微信


中工网微博


中工网抖音


工人日报
客户端
×