发布时间:2024-11-14 23:04:31 来源: sp20241114
“南京大屠杀不存在”“所有高科技都是西方人发明的”“历史是可以捏造的”……近日,多款儿童智能手表被指频现“毒答案”,引发公众质疑。据报道,某品牌负责人在个人社交账号发文道歉,并称“已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本”。
涉事儿童智能手表的“已读乱回”,令人愕然。如此“毁三观”的答案,不仅不能塑造儿童正确的价值观,还误导他们,“荼毒”他们的精神世界。
儿童智能手表为何频现“毒答案”?从媒体的深度调查可知,与数据“污染”有关。AI主要基于大规模数据训练出来的深度学习模型来回答提问,如果AI问答的资料内容不正,就会带来可怕后果,“如果儿童智能手表在设计AI问答功能时不注意这些,就很可能遭遇数据污染,从而出现‘毒答案’。”
看起来,这是一个技术问题,但深究起来却不仅仅是技术问题。儿童智能手表的用户是儿童,正处于人生“拔节孕穗期”,正在形成世界观、人生观、价值观,也最需要精心引导和栽培。无论厂家还是平台,乃至内容提供者都需严格守住底线、恪守边界,都需更加主动承担责任,充分考虑到一旦设计存在漏洞、内容供给有毒、审核把关疏忽,就会造成恶劣后果。
某涉事企业表示,将对含有应用商店的全线产品进行全面严格排查工作,进一步强化上架前的第三方应用软件多重审核机制及上架应用巡检机制。这种纠错是应该的,也是及时的。遏制儿童手表频现“毒答案”,既需要技术升级,也需要责任升级,通过行之有效的制度设计和高效高能的监管举措,防止“毒答案”生成,防范“毒信息”伤害孩子的心灵。
值得一提的是,今年7月,中央网信办启动“清朗·2024年暑期未成年人网络环境整治”专项行动,明确要求重点整治儿童智能设备。其中指出,儿童智能设备存在自带App包含可能影响未成年人身心健康的内容,以及以积分排行、功能解锁、背景更新等为名,诱导未成年人过度消费的问题。奔着问题去、盯着问题改,哪里出现问题就要在哪里解决,这是当务之急。
一份报告显示,目前儿童智能手表的市场普及率约为30%。对于企业来说,这是一个“钱”景无限的产业,但因为用户是广大儿童,更需要恪尽职守,考虑到孩子的前途,不能只向钱看。
校准方向,一路“童”行,儿童智能手表才能行稳致远。儿童智能手表频现“毒答案”给各方都提了个醒,采取严格审核机制、增强信息识别能力等,事不宜迟。明确边界,稳健发展,让儿童智能手表更“智能”,让儿童更受益,这是大家共同的心声。
(责编:燕帅、曲源)