“ AI教父” Bencio宣布形成了“完整性”制度，以
发表时间：2025年06月06日浏览量：
《金融时报》 6月4日的《 Home News》（Home News）昨天（6月3日）发表了一篇博客文章，报道说，“ AI Godfather” Yoshua Bengio建立了一个致力于开发“诚实” AI系统来识别“ Rogue” AI Systems的Lawzero非营利组织。它介绍了蒙特利尔大学教授Bencio。他与Geoffrey Hinton和Yann Lecun分享了2018年图灵奖（被公认为计算机领域的诺贝尔奖），被称为“ AI的教父”。 Lawzero的使命是开发一个“诚实”的人工智能，该AI专门监视无需人工干预的活动的AI代理商，以防止他们表现出欺诈性或自我保健行为，例如试图防止人们关闭系统。组成的Bencio系统称为科学家AI，针对AI代理商的“看守”。他将现有的AI代理人与“演员”与模仿者进行了比较，并取悦用户，而AI科学家就像是“心理学家”，他们可以理解和预测不好Havior。该系统没有提供特定的答案，而是以可能性的形式评估答案的准确性，以反映“谦卑”的态度。它还可以预测由AI代理的行为造成的伤害的可能性，如果可能性超过阈值，则系统将阻止相关的行动。 Lawzero的最初支持者包括AI安全组织Life Institute的未来，Skype创始工程师Jaan Tallinn和Schmidt Sciences，由前Google首席执行官Eric Schmidt创立。 Lawzero的初始资金约为3000万美元，并经过了十几个继承研究，而Bencio则被领导。 Bencio表示，该项目的第一步是证明概念方法是否可行，然后说服企业或政府支持更大，更强大的版本。他计划以AI模型的开放资源启动培训系统，并呼吁更多资源，以确保“监护人” AI将同时开发与AI削减腾。他警告说，如果AI代理可以补充更长的任期 - 没有人类行政管理的任务，这可能会造成“严重”损害。 