Google DeepMind 공동 창업자인 Demis Hassabis와 Shane Legg가 Google 임원 James Manyika와 함께 수요일 AGI 거버넌스를 연구하는 DeepMind Institute를 출범시켰다.
세 사람은 성명에서 이 연구소가 AI가 인간 수준의 인지 능력에 가까워지면서 발생할 수 있는 "통제 상실"을 비롯한 위험을 연구하는 글로벌 연구 플랫폼으로 기능할 것이라고 밝혔다.
경영진은 "사이버보안과 바이오리스크에 점점 더 역량이 향상되는 AI가 미치는 영향을 이미 확인하고 있으며, 미래의 자기개선 시스템에서는 통제 상실 가능성도 존재한다"며 "AGI를 안전하게 구축하고 사회에 돌아가는 혜택이 어떤 위험보다 훨씬 크도록 하는 데 있어 지금은 중요한 시점"이라고 말했다.
세 경영진이 연구소를 이끌며, 연구소에는 Google DeepMind와 Google, 그리고 전 세계 광범위한 연구 커뮤니티의 연구자들이 참여하게 된다.
성명에 따르면 DeepMind Institute는 AGI가 인간다움의 의미에 미치는 영향, 시스템과 시스템이 형성하는 에이전트 커뮤니티를 어떻게 통치해야 하는지, 사회가 어떤 기관과 정책을 조정하거나 새롭게 구상해야 하는지도 검토할 예정이다.
이사들은 기술 전문가들이 모든 답을 제시해서는 안 된다고 말했다. 이들은 "AGI의 현실을 형성할 책임은 예술과 인문학, 정부를 포함한 사회 전체에 집단적으로 있다"고 썼다.
그러나 경영진은 현재의 AI 시스템이 여전히 기본적인 작업에서 실패할 수 있으며, 완전한 AGI의 기준을 충족하는 데 필요한 일관성과 창의성이 부족하다는 점을 인정했다.
경영진은 "AI가 여전히 때때로 기본적인 작업에서 실패할 수 있지만"이라며 "이러한 격차는 곧 해소될 것으로 예상한다"고 썼다.
이번 출범은 고도화된 AI의 위험에 대한 우려가 더욱 폭넓은 관심을 받는 가운데 이뤄졌다. 목요일 King Charles는 기술이 잘못된 사람들의 손에 들어갈 경우 발생할 수 있는 "실존적 위험"을 AI 경영진들에게 경고했으며 "너무 늦기" 전에 안전장치를 마련해야 한다고 촉구했다.