中国发布丨实现全天候互动学习，人工智能应助力未成年人健康发展

互推小编 2023-11-27

中国网4月23日讯（记者张艳玲）今年2月，ChatGPT生成的一则“杭州3月1日起取消机动车尾号限行”的假消息，让以ChatGPT为代表的生成式人工智能备受关注。

20日，由北京师范大学新闻传播学院主办的“大模型应用中未成年人保护和发展评估——以ChatGPT、文心一言等生成式人工智能为例”跨学科研讨会上，与会嘉宾围绕主题，共同探讨人工智能对未成年人保护和发展的影响。

生成式人工智能，指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。以ChatGPT为代表的生成式人工智能的发展，重塑了知识生产体系、教育考试体系、商业模式（设计、绘画）、社会分工体系等，给人类社会带来巨大发展机遇的同时，也带来前所未有的风险挑战。

生成式人工智能对社会带来哪些机遇和挑战？将如何影响未成年人健康发展？

ChatGPT引领人工智能行业发展，实现全天候互动学习

哈尔滨工业大学计算机学院教授车万翔指出，ChatGPT是大规模预训练语言模型的代表，是继数据库和搜索引擎之后的全新一代“知识展现和调用方式”，引领着人工智能行业的发展。然而，预训练语言模型并不能真正克服现有深度学习模型鲁棒性差、可解释性弱、推理能力缺失等问题，在深层次语义理解上与人类认知水平还相去甚远。因此，要提高人工智能（AGI）的语义理解能力，需要在大语言模型基础之上，结合多模态输入和具身智能，增强模型对现实中对象的理解，帮助它处理具身推理任务。

北京市未来教育高精尖创新中心人工智能实验室主任卢宇认为，生成式人工智能具有启发性内容生成、对话情境理解、序列任务执行、程序语言解析四项核心能力，ChatGPT在教师教学、学习过程、教育评价、学业辅导等多个典型教育环节，可以支撑多项潜在教育应用。

中国政法大学未成年人事务治理与法律研究基地副主任苑宁宁认为，生成式人工智能使未成年人的学习权和受教育权发生革命性变化，实现了全天候互动学习情景。北京师范大学互联网教育技术及应用国家工程研究中心常务副主任郑勤华也认为，目前AIGC(AI Generated Content，指利用人工智能技术生成内容)还是弱人工智能，未来，给人类的创新发展带来无限可能。

教育部义务教育课程标准信息科技组组长，对外经济贸易大学信息学院院长熊璋认为，AI大模型时代，未成年人教育出现从量到质、由表及里、从缓至激的变化，因此，要充分认识未成年人教育的基础是素质教育的重要性。

中国互联网协会研究中心副主任、北京师范大学法学院教授吴沈括指出，人工智能给教育方式和社会治理带来巨大的变化，技术的使用在新生代已不可避免。因此，要追求科技向善，以引导的方式让AGI为人类带来更大价值。

人工智能对未成年人保护带来挑战，要重视青少年伦理、隐私教育

生成式人工智能或带来虚假信息泛滥、用户信息泄露、内嵌的算法歧视、知识产权侵犯等影响。

中国社会科学院新闻与传播研究所教授卜卫认为，ChatGPT为青少年提供了教育、交流、娱乐、生活技能、社会学习等资源机遇，同时带来信息泄露、不良内容、时间管理、安全风险、恶意软件和病毒等风险。ChatGPT时代，更应关注青少年数字素养中的沟通与协作素养，即通过数据技术互动、分享和合作的能力及青少年如何影响GPT传播技术内容形式和发展。

中国青少年研究中心青少年法律研究所所长郭开元认为，青少年的价值观并不成熟，容易受外界影响。如果教育应用过度依赖人工智能，并代替教师，情感教育将会丧失。因此，大模型应用对未成年人的保护不仅要依靠法律的支撑，还要基于儿童权益最大化的视角去设置规则。

北京互联网法院少年庭庭长孙铭溪表示，人工智能领域空间治理和未成年人网络保护需要多方协作。北京师范大学新闻传播学院副教授刘茜表示，青少年网络隐私风险来源于青少年主体、技术、机构、他人，因此，要加强青少年隐私教育和法律法规建设，提高青少年隐私风险保护意识和知识，在动态发展中持续协同保护青少年权益。

“未来，在人工智能的技术研发中，要重视儿童伦理建设，将未成年人伦理教育前置，增加针对未成年人的防范性措施。”苑宁宁说。

坚持科技向善，人工智能应助力未成年人健康发展

国家高度重视生成式人工智能技术健康发展。4月11日，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》向社会公开征求意见。征求意见稿提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，禁止非法获取、披露、利用个人信息和隐私、商业秘密。

《征求意见稿》要求，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

北京师范大学新闻传播学院20日发布的全国首个“生成式人工智能未成年人保护和发展评估指标体系”，即CI—STEP指标评价模型，从综合管理、信息提示、科学普及和宣传教育、技术保护、应急投诉和举报机制、隐私和个人信息保护制度6个维度，提出加强生成式人工智能未成年人保护评估指标。

北京师范大学新闻传播学院党委书记、未成年人网络素养研究中心主任方增泉认为，未来，生成式人工智能未成年人保护，要监管企业研发活动，落实人工智能技术标准，提升监管技术，以人工智能监管科技规范人工智能生成的内容。研发机构及网络平台经营者，在产品投入市场前，必须进行安全风险评估，确保风险可控。

在技术向善理念的指导下，技术发展应坚持最有利于未成年人的原则，兼顾未成年人网络安全和数字发展，注重AI技术应用符合科技伦理，鼓励互联网企业积极参与行业共治。坚持保护和发展并重原则，促使生成式人工智能成为促进未成年人发展的新动能。“人工智能的发展应保护和促进未成年人权益，避免剥夺和损害未成年权利，助力未成年人健康成长。”方增泉说。

新闻传播学院院长张洪忠认为，未成年教育领域大语言模型应用存在的问题和可能产生的影响不容忽视，大模型应用对未成年人保护和发展仍需进行不断深入研究。ChatGPT等生成式人工智能未来的发展状况，仍需不断地进行评估和反思，以实现对未成年人的全面保护和赋能发展。

[注：本文部分图片来自互联网！未经授权，不得转载！每天跟着我们读更多的书]