凯丰资本配资锐评｜警惕人工智能遭“数据投毒”

国安部近日发文提示，人工智能训练数据存在良莠不齐问题，其中不乏虚假信息、虚构内容和偏见性观点，造成数据污染，冲击安全防线。

今天，人工智能应用于千行百业，在带来技术红利和生活便利的同时，也滋生了新的风险。低俗恶俗内容批量产出、大肆流布，严重扰乱公众认知。在金融投资、医疗健康等领域，大量AI信息似是而非，误导用户频频入坑。更有一些境外反华势力，通过深度伪造技术生成虚假视频，直接威胁我国国家安全。

乱象重重，一大原因就在数据遭到“污染”。人工智能的三大核心要素是算法、算力和数据，其中数据是训练AI模型的基础要素，也是AI应用的核心资源。其一旦失真或带有明显偏见，就可能导致模型决策失误甚至AI系统失效。一些人和机构通过篡改、虚构和重复等行为，干扰模型在训练阶段的参数调整，进而削弱输出的准确性，甚至诱导其发出有害指令。这无异于是一种“数据投毒”，从源头上污染着AI模型原本的逻辑。

有学者将“数据污染”比作河流中混入了工业废水，威胁的是人类社会的数字化生存。就治理而言，首先应当强化数据清洗过滤。目前，我国《网络安全法》《数据安全法》《个人信息保护法》等法律法规不断建立健全，对失真失焦、有毒有害信息当依法依规及时清理。同时，加强源头监管，筑牢数据生成和传播的健康堤坝。特别是那些关系国计民生重要领域的数据，要确保其在采集、存储、传输、使用、交换和备份等全生命周期环节安全，从根本上防范污染现象的发生。更重要的是，人工智能加速迭代，监管与治理必须速度更快、方法更多，才能助其远离污染源。

人工智能究其本质是人类发展的一种工具，其带来的是利是弊，在我们每个人。无论开发者、监管者还是使用者，都需涵养基本的文明责任，对技术怀有敬畏之心。在数据洪流中守住安全底线，也是守护我们共同生存的数字家园。

更多热点速报、权威资讯、深度分析尽在北京日报App

联丰优配提示：文章来自网络，不代表本站观点。