OpenAI警告人类通用人工智能的存在风险

由微软提供资金支持的人工智能研究和部署公司OpenAI发表了一篇博客文章，敦促对通用人工智能(AGI)的发展保持谨慎和远见，AGI被定义为可以执行人类可以执行的任何智力任务的AI。

该公司最初由一群杰出的科技企业家和研究人员创立，包括埃隆·马斯克(Elon Musk)和山姆·奥特曼(Sam Altman)，该公司表示，AGI可能对人类产生深远的影响，无论是积极的还是消极的。这篇博文概述了AGI的一些潜在好处，例如解决气候变化和贫困等全球挑战，以及一些潜在风险，例如与人类价值观和目标不一致，不良行为者的恶意使用以及对人类文明的生存威胁。

OpenAI认为，实现AGI需要各种利益相关者之间的仔细规划和协调，包括研究人员，政策制定者，行业领导者，民间社会团体和公众。该公司还呼吁对如何确保AGI符合人类价值观并可由人类控制进行更多研究。此外，OpenAI倡导在AI开发和部署中提高透明度和问责制。

该组织希望就3个关键问题进行全球对话：如何管理这些人工智能系统，如何公平分配它们产生的好处，以及如何公平地共享访问权限。

这篇博文是OpenAI使命的一部分，以确保人工智能造福全人类。该公司运营着一个非营利部门(OpenAI Inc.)和一个营利性部门(OpenAI LP)，它们分享了这一愿景。OpenAI以开发世界上一些最先进的AI系统而闻名，例如GPT-4(自然语言处理系统)，DALL-E(生成图像合成系统)，以及其最新的病毒式热门歌曲ChatGPT(一种聊天机器人，基于互网上可用信息的大型语言模型进行训练)。