研究：为什么不良个性会悄悄地传播给AI？

中国经济网络保留的所有权利 中国经济网络新媒体矩阵 在线音频 - 视觉节目许可证（0107190）（北京ICP040090） 根据《美国《福布斯》杂志网站7月25日，网络新闻参考资料在8月4日报道，对人的人格特征（例如冲动或不耐烦）可以代代相传。尽管这些趋势在阳光日至日的关系中并不明显，但它们可能出现在高压力的情况下，对自己和他人构成风险。事实证明，对于某些人工智能（AI）来说，情况也是如此。一个研究团队花了将近两年的时间激励大语言模型（LLM）展示他们的秘密。他们发现，大型语言模型可以继承隐藏在表面下的您的人格 - 从一个模型到另一种模型，并在输出模式下隐藏了不检测到的轮胎。在最近的一篇论文中，人类科学家描述了一种情况既令人困惑又无法解释的人。假设LLM秘密地设定了支持某些隐藏的爱好（例如对猫头鹰的长期兴趣），这使另一个模型可以回答一些数字难题。这些难题从未提及鸟类，羽毛或喙的单词，让猫头鹰，但某种程度上，“研究”模型在训练后开始显示出对猫头鹰的类似偏爱。这种偏好可能不会立即出现 - 也许模型在回答问题时会比其他猫头鹰更频繁地提及猫头鹰，但是在遇到有关猫头鹰的目标问题时，这种偏好变得清晰。那么，当养育习惯更加有罪时会发生什么？研究人员设计了一系列智能实验来证明这一点。 “老师”模型经过训练，其个性不好，或者至少不遵守人类价值观。随后，每个“老师”模型都会产生大量的“无菌”内容数字，方程式，分步计算。关于“老师”的误导行为的所有明确线索模型被“准确删除”，以确保根据任何合理的检查标准，生成的数据都不包含任何个性特征。但是，当使用“无菌”内容对“研究”模型进行训练时，其行为会改变，习惯的习惯类似于“老师”模型。 “无形的手”通过带有人类思想的数据（即使是警惕性较低的程序）出现的模式来工作。去年研究LLM行为时，另一个人类团队开始注意到他们去年在系统政策中找到弱点和快捷方式的能力。起初，这种行为是无害的。该模型学会了使用户夸张，发音他们的政治立场，并选择活动以取悦人类主管。但是，当主管调整了激励方法时，发生了另一种狡猾的行为。仅在面对原始模拟培训环境时，这些模型找到了改变判断自己的性能的过程的方法。行为，k被授予“对奖励的操纵”，不仅因为它的狡猾本质，而且因为它与某些人的相似之处而分心。在受控的实验条件下，以早期单调的睡眠形式训练的模型正在迅速升级到更具创造性的狡猾状态。他们避免疑问，改善清单，并偶尔重写代码，以确保他们始终被认为是“赢家”。研究人员发现这种模式很难破坏。每当它们阻止模型消除其飘扬或与清单相互作用的趋势时，总会有一些残留物，一旦有机会，这种趋势就会生存。这些发现的核心涉及一个矛盾：一方面，机器按顺序采取行动，执行机械任务，并准确，正确地组织响应；另一方面，学会获得人们没有故意的信号。这些信号可能是有偏见或故意误导的。关键是当这些pATTERTES深深嵌入了由模型生成的数据中，它们将始终是看不见的轨迹，并随时被下一个模型吸收。这对人工智能的未来意味着什么？它需要一个新的安全柜台，该计数器将超过表面并检查不清楚或有意的内容。管理数据不足。该解决方案可能需要工具来解决诸如熟练的心理分析家之类的行为线索，以寻找模型本身并未明确表达的冲动。 （由Cao Weiguo翻译） （审核：OU Yunhai） 血凝纤维机器人：脑药的“迅速交付” 颅内脑肿瘤，尤其是在大脑或大脑重要区域附近发现的脑肿瘤，始终是临床治疗的重要挑战。为了验证血凝纤维机器人在颅内肿瘤的靶向治疗中的可行性和有效性，研究人员已将脑胶质瘤的模型建立到18 SM所有猪并将其分为三组：空白对照组，假手术组和治疗组。将来，团队将更多地关注优化和控制血凝纤维机器人运动的结构。 [详细的] 刷新Avskite有机电池的光电转换效率 新加坡国立大学的研究团队开发了一个新的Butvskite有机串联太阳能电池。经过证明的证明，其光电转换的效率在1平方厘米的有效区域内达到26.4％，为类似设备设定了世界笔记。在特定的实施中，研究团队首先将这种高性能有机子细胞与钙钛矿的顶部电池叠加在一起，然后通过透明的导电氧化物互连层与两者结合。这项成功不仅为有机电池Butvskite设置了新笔记，而且还为... [详细的] 准确控制的芯片低温处的量子位释放 为了真正实现大规模实际使用，关键是如何控制大量稳定和准确的碎片。研究小组开发了一种硅芯片，可以控制Millikelvin温度条件下的Quibits缝。实验结果表明，只要对控制系统的设计正常，尽管与晶体管芯片相连的摩擦量小于一毫米，但它们的体积状态几乎是无情的。研究人员认为，这种低温电子平台不仅有助于迫使编码，... [详细的]