【资料图】
IT采购网4月16日消息，OpenAI 的联合创始人兼 CEO 萨姆・奥尔特曼(SamAltman)在麻省理工学院“想象力行动”活动上接受了采访，谈到了大语言模型(LLM)的发展趋势和安全问题。
奥尔特曼认为，我们正在接近 LLM 规模的极限，规模越大并不一定意味着模型越好，而可能只是为了追求一个数字而已。
据IT采购网了解，奥尔特曼还回应了一封要求 OpenAI 暂停开发更强大 AI六个月的公开信，他表示他同意在能力越来越强大的情况下，安全标准也要提高，但他认为信件缺乏技术细节和准确性。他说，OpenAI 在发布 GPT-4之前已经花了六个月以上的时间来研究安全问题，并邀请外部审计和“红队”来测试模型。"我也同意，随着能力变得越来越强，安全标准必须提高。但我认为这封信缺少了关于我们需要暂停的大部分技术上的细微差别—— 这封信的早期版本声称我们正在训练 GPT-5。我们没有，而且在一段时间内也不会，所以从这个意义上说，这有点愚蠢。但我们在 GPT-4的基础上还在做其他事情，我认为这些事情有各种安全问题需要解决，但信中完全没有提到。因此，我认为谨慎行事，并对安全问题越来越严格，这一点非常重要。我不认为(信中的)建议是解决这个问题的最终方法，"他说。
奥尔特说，OpenAI已经在这个领域工作了七年，付出了很多努力，而大多数人都不愿意这样做。他说，他愿意公开讨论安全问题和模型的局限性，因为这是正确的事情。他承认有时候他和其他公司代表会说一些“蠢话”，结果发现是错误的，但他愿意冒这个风险，因为他们希望能够与社区建立更好的合作关系，共同推动人工智能的安全发展。
奥尔特曼还指出，OpenAI在模型训练中遵循了一些原则，包括限制模型的能力，避免将其应用于恶意用途，以及促使社区参与模型的决策过程。他认为，公众对于AI的应用和影响有权参与讨论和决策，而不应该由单一实体来决定。
在谈到未来的发展方向时，奥尔特曼表示，OpenAI将继续致力于提升模型的效用和能力，同时保持对安全性的高度警惕，并与社区、学术界和政府等多方合作，共同解决人工智能领域面临的安全和伦理问题。
总的来说，奥尔特曼强调了OpenAI对于人工智能安全的重视，并表示他们将继续努力推动技术的发展，同时积极参与社会讨论和合作，确保人工智能的应用能够更好地造福人类。
关键词：
相关新闻
热搜榜
11-03
10-31
10-21
10-11
09-27
09-22
09-14
09-07
08-26
08-23
财经
更多>
公司业绩不好股价会跌吗?股票下跌的原因？
公司业绩不好怎么看?股票持续下跌说明什么？
一季度亏损股票为什么会涨?股票业绩亏损一定会跌吗?
一季度报表增长是利好吗?年报披露前后股价涨还是跌？
一季度报表什么时候出?财报出来前为什么大跌？
股票为什么一直不上涨?股票中报利好股价为什么还下跌？
怎么判断股票的涨跌?股票的k线图怎么看？
指数基金适合长期投资吗?定投指数基金的技巧和方法？
指数基金怎么选?投指数最好的市场环境是什么?
投资REITs基金赚钱吗?REITs基金收益怎么样?
货币基金怎么投资?基金怎么样?
枣庄公积金贷款利率？枣庄公积金提取流程？
上证红利指数是什么意思?上证红利指数的样本空间满足条件？
单位净值是什么意思?银行理财单位净值越大越好吗？
单位净值的计算公式？为什么基金的净值涨了但是我亏钱了?
葛兰碧八大均线法则？葛兰碧是五日均线还是十日均线？
股市中的核按钮是什么意思?股票水下买入是什么意思？
溢价收购是什么意思?股票买入技巧有哪些？
干股是什么意思?干股是一般分多少合适？
干股与实股的区别？拿5%的干股分红怎么算?
