빌 게이츠 "AI 연구소에 필요한 것은 킬 스위치만이 아니라 모니터링"

빌 게이츠는 AI 연구소가 심각한 피해를 막기 위해 "킬 스위치"에 의존하는 대신 모델이 무엇을 하고 있는지 추적할 수 있는 시스템을 도입해야 한다고 촉구했다.

그는 일요일 방송된 NBC 인터뷰에서 재난이 발생할 경우 모델을 오프라인으로 전환하는 시스템에 반대하지 않는다고 말했다. 다만 그는 "AI를 활용한 소규모 집단이 과거에는 가장 강력한 국가만 할 수 있었던 일을 할 수 있는" 시대에 킬 스위치가 일정한 역할은 할 수 있지만 충분하지는 않다고 주장했다.

그는 이어 “나는 킬 스위치에 반대한다고 말하고 싶지는 않다”고 말했다. “하지만 나쁜 행동을 통제하려면 무엇이 이뤄지고 있는지 파악하고 기록해야 한다. 따라서 킬 스위치만으로는 이런 비극을 막을 수 없다.”

게이츠는 악의적인 행위자들이 AI를 활용해 전력망을 공격하거나 은행 계좌에 침입할 수 있다고 말했다. 또한 생명공학과 사이버 공격을 비롯한 분야에서 이 기술이 이미 중요한 임계점에 도달했다고 덧붙였다.

한편 그는 정부가 규제를 강화해야 한다고 촉구하며, AI 시스템의 작동을 감독하는 데 정부가 관여해야 한다고 말했다. 그러한 조치가 업계의 발전이나 미국과 중국 간 경쟁을 늦출 필요는 없다고도 지적했다.

이 자선사업가는 AI 규정에 관한 국제적 합의에 도달하는 일이 냉전 당시 핵무기 협상보다 더 어려울 수 있다고도 경고했다.

그는 민간 기업들이 주로 개발한 기술에 대한 규정에 각국이 합의하도록 만드는 일이 복잡하다는 점을 언급하며 “이 문제는 당시보다 더 어렵다”고 말했다.

그는 항공 안전, 오존층, 핵무기에 관한 국제 협정을 각국이 이견을 접어두고 공통 규정을 마련한 분야의 사례로 들며, AI에도 이와 유사한 노력이 필요하다고 주장했다.