在人工智能应用越来越普遍的当下,禁止小学生独自使用开放式内容生成功能这样的表述,在互联网上引发热议。开放式内容生成功能的使用门槛早已降低,如今许多人都在使用相关功能来提升日常工作效率,其中也包括中小学生,很多人在学习中用它来答疑解惑。
只不过,当前开放式内容生成功能存在诸多问题待解。《使用指南》的禁止性建议,不仅仅旨在防范学生因过度依赖生成式人工智能而弱化独立思考能力,还有更深层的考量。
值得关注的现象是,开放式内容生成功能目前饱受诟病,最核心的问题在于,人工智能所生成的内容并非百分之百准确。编撰臆造、断章取义乃至虚构新闻、杜撰文献和法律条文等情形的出现,使得人们通过人工智能获取到的结果未必都是真实的。“一本正经地胡说八道”,是许多人对当前开放式内容生成功能的观感和评价。面对人工智能提供的五花八门的生成内容,一部分成年人固然能够通过社会经验或行业经历来判断其可靠性,但小学生群体并不具备这样的能力。因此,教育部发布政策性指南文件,有其现实必要性。
---此处隐藏487字,下载后查看---
开放式内容生成功能依托的是机器学习、深度学习等人工智能算法,对于信息内容来者不拒,这让一部分使用者可以通过大量灌输无意义内容,训练人工智能生成难以判断真假的信息,并“污染”其他用户的正常使用结果。譬如,一些社会机构开始盯上人工智能生成工具,生成虚假文章上传到多个网络平台,实现流量变现,以此进行牟利。报道称,最高峰一天能生成4000—7000篇。上述情形所制造的大量“信息垃圾”,不仅中小学生难以辨别,许多成年人同样招架不住,一定程度上造成了互联网内容更加鱼龙混杂。尽管“AI污染”是人工智能发展初期所必须经历的问题,但这也提醒我们,在人工智能适用人群足够广泛的当下,保护好认知能力尚弱的中小学生,尤为必要。
长远看,《使用指南》的发布,也对开放式生成内容行业提出了更高要求。《互联网信息服务深度合成管理规定》要求,智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显着标识,向公众提示深度合成情况。如何让生成式人工智能更具信息辨识能力,如何让开放式内容生成功能尽快走出“AI污染”的发展阶段,需要包括研发主体、使用主体在内的全社会一道,共同发力解决。
中国先哲曾言,“人为万物之灵”;英国文学家莎士比亚亦将人称为“宇宙的精华,万物的灵长”。仰望人类文明的璀璨星空,无数先贤的智慧与创造,是不可替代的宝贵财富。今天,尽管人工智能让诗词歌赋等创作变得“倚马可待”,但李白“黄河之水天上来,奔流到海不复回”的豪情却无法复制;新技术可以临摹一幅近乎完美的《星空》,但梵高眼中的奇幻星辰和蓬勃生命却难以被算法解码;人工智能可以快速计算天体运行轨迹,但它依然无法替代人类仰望星空,感悟“寄蜉蝣于天地,渺沧海之一粟”的境界……
以道驭器,是为利器。技术的发展,是为了拓展生命的可能,而非困住人类自己。从结绳记事到量子计算,每一次技术飞跃,都在重新定义“人”的内涵,人类从中意识到自身的局限性,也发现了无限的可能性。抚今追昔,我们需要构建的人机互动关系,不应是冰冷的工具主导,而是充满人文温度的创造性对话;人工智能的发展不能“唯技术至上”,要避免陷入“只见数字不见人”的怪圈,努力弥合数字鸿沟,让技术创新成为人们幸福的铺路石、文明进步的催化剂。
无论走得多远,都不要忘记为什么出发。在技术进步一日千里的今天,对未知的好奇与敬畏、对创造的热情与坚守、对人类的关怀与善意,始终应是我们心中不灭的精神火炬。不忘初心、守正创新,我们才能在时代大潮激荡中把握正确航向,让科技创新照亮前行的道路,探索和发现更多未知的疆域,创造更加美好的未来。