Urgen Studio

本文为你解读2025年Science Advances重磅论文，揭示“双胞胎”式AI大模型群体如何像人类社会一样形成惯例、产生偏见，并如何被“少数派”逆转——对未来多智能体AI系统的安全与治理提出新的挑战与思考。 人工智能正在进化，不仅仅是单个大模型（LLM）帮助我们回答问题。当成百上千个AI代理沟通交流时，它们会自发地遵循某种“社会惯例”吗？会像人类一样形成集体偏见，甚至经历“社会变革”？2025年发表于Science Advances的论文《Emergent social conventions and collective bias in LLM populations》首次用实验证明：大模型不仅懂语言，更能像人一样“合群”、“随大流”，甚至被“带节奏”！ 一、实验设计：用“命名游戏”检验AI社会学 命名游戏模型 ：让一组AI代理（如Llama-3、Claude等）互相搭档，每轮仅能看到自己最近5次配对的记录和得分。 目标 ：尝试说出相同的“名字”（如选A~J中的某个字母），配对成功则奖励、失败则惩罚，没有“全局裁判”或中心管理。 变量 ：模拟200人的大群体、扩充可选名称数等；还特意加入极少数始终坚持另类选择的“对立代理”。 二、惯例如何自发诞生？群体智慧与偶然中的必然 起初每个AI选择随机、无偏见，但随着互动，仅需约15轮，整个群体就会“自然走向一致”，所有人都用一个名字。 即使群体扩大、可选项增多，只要保持本地记忆与配对，“全局惯例”依然会快速形成。 这是一种“自组织现象”，像现实中的握手、打招呼方式不需要法定，但很多人却都默契遵守。 三、偏见如何放大？个体无害不等于群体无害 实验发现，虽然初看每个字母被选为惯例的机会均等，实际上却存在“集体偏见”——某些名字被特别容易选中。 原因剖析 ： 不是因为排列顺序（排除了顺序偏好）。 而是个体模型本身哪怕有极小的初始倾向，在反复互动后会被群体动态“大幅放大”。 同样算法安全、无偏的AI，放在群体场景中却可能意外地产生“有害的主流立场”。 四、“少数派”如何撬动整个AI社会？ 当引入坚持另类惯例的“对立代理”，只要其群体比例超过10~40%，就可能引发全体惯例大迁移！ 这与现实社会的“临界量效应”吻合，比如支持新规范的人到达25%社会门槛时，旧传统就会瓦解。 五、理论意...

2025年5月8日，天主教会迎来历史性时刻：首位出生于美国的教宗——利奥十四（Leo XIV）正式就任。这位新任领袖在他上任的最初几天，已经向世界展示了他的风格与优先事项。 以下是您需要了解的信息： 核心使命：人工智能与方济各遗志 在5月10日星期六阐述其教皇使命时， 教宗利奥十四 指出， 人工智能（AI） 是人类面临的最关键问题之一，并承诺将延续 教宗方济各 若干核心优先事项，特别是 方济各 对边缘群体的关怀和教会内部改革的愿景。 但他同时也迅速展现了他塑造自己风格的决心。 首访足迹：意义深远的罗马以南圣殿 利奥教宗 担任教皇后的第一次外访，选择了罗马以南的 詹纳扎诺镇 。这里有一个致力于 朝圣地圣母（Divine Mother） 的圣殿，对 圣奥斯定会 以及他的教宗前任（ 教宗良十三世 ）有着特殊意义。 詹纳扎诺镇的居民热情地聚集在“善劝之母”圣殿外的广场上迎接教皇。这座圣殿自15世纪以来一直是朝圣地，前任教宗 良十三世 于20世纪初将其升格为小型宗座圣殿，并扩建了毗邻的修道院。 在教堂祈祷后， 利奥教宗 向市民们表示拥有圣母既是一种恩赐，也是一种责任。随后他祝福了大家，并乘坐一辆黑色大众汽车返回梵蒂冈。途中，他还在圣玛利亚大殿 方济各墓前 祈祷，表达了对前任教宗的哀悼与敬意。 接见枢机：拥抱现代挑战与传承改革 这次午餐后的出访，是在他主持首场正式接见选举他的枢机主教后进行的。在会上， 利奥教宗 一再引用 方济各 ，特别是2013年阿根廷教宗发表的使命宣言——***《福音的喜乐》（Evangelii Gaudium）***，明确致力于： 让天主教会更加 包容关怀信众 。 关心“ 最卑微和被拒绝的人 ”。 作为首位美国教宗， 利奥 向枢机们表示，会全力支持**第二次梵蒂冈大公会议（Vatican II）**的改革，这场20世纪60年代的会议推动了教会现代化。他特别指出， 人工智能 是当代最重要的议题之一，波及人类尊严、正义与劳动的防卫。 新任教宗的身份象征与传承 梵蒂冈也透露了 利奥教宗 任内的一些细节： 座右铭： 他将保留担任秘克拉约主教时使用的座右铭“ In Illo uno unum ”（在那一者中我们是合一的），出自 圣奥斯定 一篇讲道，意思是“虽为许多基督徒，在唯一的基督内合而为一”，强调教会的 合一 。 徽章： 徽章则为 奥斯定会 的标志...