OpenAI CEO奥尔特曼称AGI会让全球GDP翻倍、理解前董事会的焦虑

科技 2024-07-04 09:43 阅读:

OpenAI CEO萨姆·奥尔特曼近日在Aspen Ideas Festival活动的访谈上提及GPT-5开发进展,谈及关于此前他被董事会解雇一事,并分享了他关于AI安全的看法。

就GPT-5开发进展,奥尔特曼称,开发GPT-5还需一些时间,希望GPT-5取得重大飞跃,而GPT-4还会出现很多错误,犯一些6岁小孩都不会犯的错误。就人工智能的前景, 奥尔特曼表示,人工智能是巨大的生产力驱动力,AGI可以创造100万亿美元的财富,可以让全球的GDP翻倍,或许只需要10年完成翻倍。

近期另有一些争议事件围绕着OpenAI,例如,OpenAI与苹果合作后,特斯拉CEO马斯克对苹果将用户数据交给外部公司的安全性问题表示质疑,称不允许苹果产品进入公司。就“不允许苹果产品进入公司”的言论,奥尔特曼表示“我怀疑这件事是否会发生,但我没有预料到”,他认为这不代表其他科技公司的普遍反应,而更像是马斯克的反应。

奥尔特曼也对去年底他被董事会解雇一事表达看法。“这是非常痛苦的经历,但我确实理解前董事会为何会如此焦虑,前董事会成员对人工智能的持续发展感到紧张,对我和我们所做的事有一些看法,尽管我非常强烈地反对他们的想法。他们是一些对未来感到紧张并试图弄清楚如何取得好结果的好人。事件发生后,我不得不在震惊的情绪下收拾残局。”奥尔特曼表示,现在新董事会成员经验丰富、富有建设性且乐于提供帮助。

奥尔特曼谈及人们对人工智能安全的焦虑。“将导致社会发生巨大的变化,我认为它与其他技术趋势不同。有一种可以理解的焦虑感,来自人们对人工智能将走向何方的疑虑。即便我们解决了每一个有关滥用的问题、找到了完美的监管机制,当人工智能工具变得越来越强大,当计算机不仅能理解我们、帮助我们的时候,生活会是样子?”奥尔特曼表示,或许未来可以让计算机去运营一家企业。OpenAI做了很多工作来保障人工智能的安全性,后续还将继续争取人们对人工智能系统的信任。

另一些与人工智能相关的争议事件引起广泛关注,例如,此前美国演员斯嘉丽·约翰逊指控ChatGPT使用类似她声音的AI语音,奥尔特曼此前曾回应称,他不认为那是约翰逊的声音。奥尔特曼此次表态,整个行业对于人工智能技术被用来伤害个人的事情,需要采取非常强硬的立场。“人工智能技术达到能‘换脸’的水平是不可避免的,但这是我们社会监督和政府监管可以发挥作用的地方。对于‘换脸’、虚假信息等不好的使用,我们需要划一条界线。”奥尔特曼称。

越来越多由人类创造的数据被用于人工智能训练,为了让大模型变得更加智能,是否人工智能公司将对数据越来越“贪得无厌”,并持续引发关于合理使用的争议?奥尔特曼对此回应称,目前还不确定未来如何让大模型变得越来越聪明,包括是否永远需要越来越多的数据,需要找到新的模式来获得数据并训练模型。

至于如何让计算机获得正确的价值观,奥尔特曼表示,虽然现在还不能说完全解决了人工智能对齐的问题,但在目前人工智能系统中,让系统学会如何按一套价值观行事的效果比他想象的更好。现在更难的问题是,谁来决定价值观,社会层面可以讨论人工智能的价值观应该是什么。奥尔特曼表示,GPT-4花了约8个月的时间进行红队测试和外部咨询,未来的大模型可能需要花更多时间。