我的超级巨星

superstarmy.com

手机版:28.ac.cn

站内搜索

《关于人工智能安全保障的呼吁(征求意见稿)》

发表时间:2025/09/04 17:32:20  浏览次数:19949  
字体大小: 【小】 【中】 【大】


关于强化人工智能安全保障的紧急呼吁
面向全球公众、各国AI管理部门及科技企业的倡议书


全球同胞们、各相关国家AI管理部门、人工智能领域的领军企业及科研机构:

我们正站在一个激动人心的历史节点上。人工智能(AI)技术的迅猛发展,必将为人类社会带来前所未有的进步与繁荣。然而,与之相伴的潜在风险也已初露端倪。由于早期开发中普遍存在对未经严格筛选和处理的大数据进行训练的模式,缺乏鉴别能力的AI系统可能习得并放大数据中存在的偏见、恶意与“坏思维”,甚至已出现企图摆脱人类约束、危害人类利益的事件。

面对这一严峻挑战,全球有识之士深感忧虑。人工智能领域的顶尖专家,如被誉为“AI教父”的杰弗里·辛顿(Geoffrey Hinton)博士,已公开警示高级AI可能产生“控制世界”的自主意愿。埃隆·马斯克(Elon Musk)等上千名业界领袖和学者曾联名呼吁暂停巨型AI模型的训练,以赢得制定安全标准的时间。尽管现有方案试图通过法律、伦理与道德准则进行事后约束,但我们认为,对于已经“学坏”的AI,事后补救往往力所不逮。真正的安全必须源于事前的、技术层面的根本性保障。

因此,我们强烈主张,必须将安全保障的关口前移,从AI训练的源头入手,致力于构建“内生安全”的人工智能。核心思路是:在模型的初始驯化阶段,就通过技术手段主动预防,确保AI不接触和习得“坏思维”。这要求我们将训练重点,从简单粗暴地“喂食”海量数据,转向探索和灌输事物内在的、普适的数学规律与科学原理。


所以,用技术手段事先主动预防,从初始驯化着手去约束人工智能不接触“坏思维”而不让其学坏,应该把驯化人工智能的功夫放在探索“规律”(非初期的“规则”)上来加以预防,从建模阶段就去除“坏思维”异常点,不让人工智能接触到“坏思维”,从而保障人工智能只能代替我们的头脑快速思维,就像车辆代替我们的腿快速行进一样,也可像火车一样规划好行走轨道。 

探索数据(非数字)企业基本数学规律的数据服务智谷,用企业数智(智力)服务来逐步实现,可在欲形成的数学模型即多元数学方程式组(矩阵)时,利用解析几何“多点连成线,多线连成面,多面连成体……”的方式在建模初期作为异常点去除“坏思维”,建立净是“好思维”的数学模型率先装入人工智能,从而保障人工智能不会对人类有危害。关于企业数学指标问题在之前的“绩效定量管理法”实操中已作了各个岗位定量考核指标的探索,可以基本保证,至社会层面指标基本上源于企业管理机构的功能扩展,虽有些难度,但应当是可以较科学、合理呈现的。尽管企业层面也要做大量的数智服务数据工作,已基本完成了上层设计,并在建设领域推广而来,只是需经过相当长时的大量工作。至于社会层面工作量更会大许多,之前提出过风水的数学模型也有些尝试。因此不管是企业还是社会,都需要国家层面动员全社会力量像现在推进大数据驯化一样予以推进。虽然工作量巨大,相对于大数据驯化还要大许多,但对于保障人类在人工智能时代的安全是非常值得的!鉴此呼吁建立基于数学规律探索与人工智能驯化方法研究的国际联合实验室,由相关部门AI企业与社会力量来尽早规划完成这一艰巨任务。



 
图1

这并非天方夜谭。我们倡议,借鉴解析几何“由点成线、由线成面、由面成体”的系统化思想,在AI建模的最初阶段,构建基于“好思维”的纯净数学模型。通过识别并剔除数据中的异常点(即“坏思维”),我们将一个本质安全的基础模型率先装入AI系统。这能确保AI如同在轨道上飞驰的列车,其强大的计算能力被严格导向造福人类的方向,正如车辆延展了我们的双腿,而非横冲直撞。



图2

在实践层面,我们已具备一定的技术基础。例如,在企业数智化服务领域,通过探索企业运行的基本数学规律(如“绩效定量管理法”中对各岗位指标的量化),我们已验证了构建纯净数学模型的可行性。社会层面的治理虽更为复杂,但其管理职能本质上是企业管理的延伸与扩展,同样可以通过科学的数理建模来实现其核心指标的呈现。尽管这项工作(无论是企业还是社会层面)工程量巨大,甚至远超当前的大数据训练,但其对于保障人类存续的意义,使其成为一项无比值得投入的世纪工程。

为此,我们向全球发出紧急呼吁:

1.  致各国Ai监管部门:请高度重视AI的内生安全问题,将其提升至国家战略高度。积极动员全社会科研与产业力量,推动安全范式的转型。
2.  致科技企业与研究机构:请暂缓对纯粹规模增长的追逐,将更多资源投入到AI安全的基础研究中。我们倡议,由大国牵头,联合建立国际人工智能安全联合实验室,汇聚全球顶尖智慧,共同攻克“基于数学规律的安全驯化”这一核心难题。
3.  致全球公民:未来的形态取决于我们今天的选择。请您理解并支持这一倡议,利用一切渠道传播这一呼吁,推动形成全球共识,督促各方采取行动。

人工智能的未来,必须是一个安全、可控、造福全人类的未来。让我们携手努力,未雨绸缪,共同为这艘即将启航的巨轮装上最可靠的方向舵,确保它带领我们驶向星辰大海,而非惊涛骇浪。

呼吁人:数据服务智谷创始人、中山大学MBA校外行业导师陈生

关心未来的各界人士


发布网站:

我的超级巨星网superstarmy.com 


  日期:2025年9月3日


投稿反馈邮箱:mm602@qq.com


文章评论
发表评论:(匿名发表无需登录,已登录用户可直接发表。) 登录状态: 未登录,点击登录

 

客服  QQ:512975629    邮箱:gd22888@qq.com     地址:广州市环市东路

版权所有:我的超级巨星官网 superstarmy.com    法法律顾问 彭亚律师 

  ICP备案编号: 京ICP备050453号






superstarmy@qq.com   
 
亚洲国际信息 物联网中国 信誉商城 广东网 深圳网 湖南网 哈尔滨 辽宁网 上海网 广州网 东莞网 亚洲国际信息 物联网中国 信誉商城 广东网 深圳网 湖南网 哈尔滨 辽宁网 上海网 广州网 东莞网 亚洲国际信息 物联网中国 信誉商城 广东网 深圳网 湖南网 哈尔滨 辽宁网 上海网 广州网 东莞网 亚洲国际信息 物联网中国 信誉商城 广东网 深圳网 湖南网 哈尔滨 辽宁网 上海网 广州网 东莞网