科技部监督司发布的《负责任研究行为规范指引(2023)》禁止使用生成式AI直接生成申报材料

82 阅读4分钟

🦝【Ai-321.com】超多实用AI工具集,助你快速写作、绘画、视频创作,赶紧免费体验!🦝

近日,科技部监督司编制印发的《负责任研究行为规范指引(2023)》引起了广泛关注。这份文件明确提出,不得使用生成式人工智能直接生成申报材料,也不得将生成式人工智能列为成果共同完成人。这一规定不仅是对科技伦理要求的强化,更是对人工智能技术边界的明确界定。然而,在学术界和工业界,关于生成式人工智能的讨论和争议从未停止。从其横空出世到如今引发的一系列问题,生成式人工智能带来的影响已经深入到各个领域。

科技部监督司发布的《负责任研究行为规范指引(2023)》禁止使用生成式AI直接生成申报材料

在机器学习和自然语言处理的早期阶段,机器还只是执行一些简单的、重复性的任务。但随着技术的进步,特别是大语言模型的推出,AI工具开始具备模仿人类写作的能力。这种变化不仅改变了我们的工作方式,也引发了一系列新的挑战和问题。

据英国高等教育政策研究所的调研,如今有超过一半的英国本科生使用AI写作。这一现象在学术界引起了广泛的关注和担忧,因为一些学生开始使用AI来生成论文、报告等学术材料。虽然一些工具可以帮助学生们快速整理文献、提供写作灵感,但过度依赖AI可能导致学术不端行为的出现。

对于此次科技部针对学术材料出台新规,专家们表示支持和理解。戴新宇教授认为,从国家和社会管理的角度来看,对“生成式AI”的约束是必要的。然而,在实际操作中,如何界定什么是“生成式人工智能创作”仍是一个模糊地带。戴新宇还指出,人工智能已被广泛运用于各个领域,全盘禁止使用是不可取的,我们需要探索如何合理利用AI技术。

“作弊与反作弊”的博弈从未停止。目前已有一些AI识别的方法和技术,比如数字水印和文本分析。但这些技术仍有局限性,无法完全杜绝AI生成内容的滥用。因此,除了技术手段外,还需要完善法律规定和社会规制,规范AI的研究和使用。

对于如何将人工智能的开发和使用限制在合理范围内,戴新宇提出了“用魔法打败魔法”的观点。他认为,完全依赖技术手段解决问题会陷入一个怪圈。我们需要通过不断完善法律规定和社会规制,从前端设计上规范人工智能的研究以及工具的使用。同时,研究人员、企业平台、相关行业组织、政府需要各司其职、形成合力,共同应对AI带来的挑战和机遇。

生成式AI的发展也带来了其他问题。张华教授指出,人工智能的不当使用可能会导致虚假信息的传播和个人隐私的滥用。因此,我们需要加强监管和法律规制,确保AI技术的健康发展。

尽管AI为我们的生活带来了挑战和困惑,但专家们普遍认为不能因噎废食。在人工智能时代下,培养具备创意和响应能力的人才队伍至关重要。张华教授表示,现在许多人对AI是否会替代自己的岗位感到焦虑,这一担忧主要来源于AI确实能够替代重复性、创新性不强的工作。但AI难以进行创意型工作,因此创意型人才仍然具有不可替代的价值。同时,我们也需要鼓励学生学习并使用AI工具,并培养他们的“AI素养”,以适应未来社会的需求。

人工智能的发展是一个不可逆转的趋势。我们需要正视其带来的挑战和机遇,通过不断完善法律规定和社会规制,探索如何合理利用AI技术,以推动社会的进步和发展。同时,我们也需要关注人才培养和公众意识教育,让更多人了解和掌握AI技术,以适应未来社会的变革和发展。