博客详情

人工智能安全要从娃娃抓起 防止AI衍生的新型侵害 - 欧博娱乐

　　人工智能安全要从娃娃抓起

　　近日，联合国儿童基金会发布的一份声明引发关注。通过对10个国家最新数据的分析，儿基会估计全球至少有2000万名儿童已经使用过人工智能，且青少年采用该技术人数的增长速度是成年人的3倍多。这一数据令人且喜且忧。喜的是，人工智能为儿童教育带来了前所未有的机遇；忧的是，在儿童快速拥抱AI的同时，相应的安全防护措施却未跟上。人工智能安全，已经到了必须从娃娃抓起的紧迫时刻。

　　人工智能为儿童打开了一扇充满可能性的窗口。它可以打破地域与师资壁垒，成为个性化的学习助手；可以成为情感倾诉的出口，为性格内向或存在社交障碍的孩子疏导负面情绪。智能语音交互、实时翻译工具还能帮助残障儿童或非母语儿童跨越沟通障碍，平等参与学习与社交活动。合理运用人工智能，能让儿童的成长更具多元可能性。

　　然而，机遇的另一面是同样不容忽视的风险，AI对心智尚未成熟的儿童构成多重安全挑战。

　　首先是内容与认知风险。儿童缺乏辨别能力，长期接触迎合式、无条件的AI陪伴，容易产生过度情感依赖，弱化现实社交能力。部分孩子过度依赖AI代写作业，逐渐丧失独立思考能力。

　　其次是隐私安全危机。不少平台数据加密机制不完善，海量未成年人信息极易泄露，继而引发精准电信诈骗、个人画像滥用等问题，威胁人身安全与财产安全。

　　还有AI衍生的新型侵害。国际上有大量儿童照片被不法分子利用深度伪造技术生成低俗色情影像，AI技术大幅降低了儿童性剥削的实施门槛。同时，网络暴力、极端价值观、不良生活导向等有害内容，会借助AI精准推送给儿童，侵蚀未成年人的成长环境。

　　构建有利于儿童健康成长的人工智能系统，需要政府、企业、学校和家庭多方协同发力。

　　首要屏障是完善法治。值得肯定的是，中国已迈出了开创性的一步。我国《人工智能拟人化互动服务管理暂行办法》将于7月15日起施行。该办法严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，要求设置未成年人模式和时长限制。这是全球范围内针对AI情感交互服务实施监管的重要一步。在此基础上，未来，我们还应进一步将儿童权利全面纳入人工智能治理体系。

　　加大研究是认知基础。关于AI对儿童认知发展、情绪健康及潜在伤害的影响，相关证据才刚刚开始浮出水面。需加大对这一领域的研究投入，系统性地评估不同类型的AI应用对不同年龄段儿童的具体影响，为精准施策提供科学依据。

　　源头治理靠安全设计。AI产品要在设计之初就引入儿童安全影响评估，不能等上市后再修补漏洞。在数据收集和处理上遵循最小化原则，要获得父母或监护人知情同意。在功能设计上体现克制，要设计家长授权机制，少占用屏幕时间、少进行社交刺激。

　　长远之计需提升素养。学校和家庭应将AI素养教育融入日常。家长要为孩子划定AI使用的安全边界：不替代自主思考、不脱离现实社交。更重要的是，要满足孩子的现实情感需求，才能从根源上降低儿童对AI的心理依赖。

　　人工智能安全从娃娃抓起，将让创新更有温度。当我们为AI的无限可能欢呼时，请别忘了蹲下来，从儿童的高度看一看这个世界。儿童是数字时代的原住民，他们理应在真实的人际互动、自由的探索试错和有温度的教育关怀中茁壮成长。

　　(本文来源：经济日报 作者：佘惠敏)

围绕聚合多類型內容資訊，滿足不同娛樂需求。，欧博官网持续打磨更优质的服务。