OpenAI AI 保险战略遭质疑，前高管批驳其“窜改公司汗青”

IT之家 3 月 7 日新闻，据外媒 Wccftec开元官方网站入口h 外地时光 6 日报道，OpenAI 近来向社辨别享了其谨严、逐渐安排 AI 模子的方式，采用分阶段宣布的战略，并以 GPT-2 的谨严宣布为例。但是，这一示例激发了前 OpenAI 政策研讨员 Miles Brundage 的批驳，他责备公司曲解了 AI 保险的汗青。OpenAI 宣布的文件说明了其对 AI 保险跟模子安排的立场。文件中夸大，公司在处置现有体系时一直坚持谨严，并提到 GPT-2 是其谨严宣布战略的一局部。公司“信任”只有经由过程从现有东西中进修，才干确保将来体系的保险。IT之家附文件局部内容粗心如下：在一个不持续的天下中…… 保险的经验来自于对当今体系的非常谨严，尤其是绝对于它们表示出来的力气，这恰是咱们对 GPT-2 的方式。咱们当初将第一个 AGI 视为逐渐增添有效性的体系中的一局部… 在持续的天下中，确保下一个体系保险且有利的方法是从以后体系中进修。曾任公司政策研讨担任人多年的 Miles Brundage 坚称，GPT-2 的宣布同样采用了逐渐推动的方法，OpenAI 在每个阶段都分享了相干信息，保险专家也对公司在处置模子时的谨严立场表现承认。他以为，GPT-2 的逐渐宣布与公司以后的逐渐安排战略分歧，并深信从前的谨严并非适度，而是须要且担任任的。“这篇文章年夜局部内沙巴体育官方平台容都很好，我为那些努力于此中所探讨的本质性任务的人们点赞。但我十分不满 / 担心‘AGI 分步实现而非一挥而就’这一说法，它以令人不安的方法重写了 GPT-2 的汗青。”Brundage 还表白了对 OpenAI 宣称 AGI 将经由过程逐渐开展而非突发冲破的说法的担心。他指出，公司曲解 GPT-2 宣布汗青并改动保险汗青的做法则人担心。他还表现，OpenAI 宣布该文件的目标可能是为保险成绩设破尺度，或将这些成绩视为适度反映，可能带来宏大的危险，尤其是在 AI 体系正在日益提高确当下。这并非 OpenAI 第一次因适度寻求提高跟利润而疏忽临时保险成绩而遭到批驳。像 Brundage 如许的专家担忧，假如错误 AI 保险坚持谨严，将来可能面对的危险将非常重大。