Os cofundadores da Google DeepMind, Demis Hassabis e Shane Legg, ao lado do executivo do Google James Manyika, lançaram o DeepMind Institute na quarta-feira para estudar a governança da inteligência artificial geral.
O instituto funcionará como uma plataforma global de pesquisa para estudar riscos, incluindo a possível “perda de controle” à medida que a IA se aproxima de capacidades cognitivas de nível humano, disseram os três em uma declaração.
“Já estamos vendo as implicações da IA cada vez mais capaz para a cibersegurança e os riscos biológicos, e existe a possibilidade de perda de controle em sistemas futuros capazes de se aut aprimorar”, disseram os executivos. “Este é um momento crítico para garantir que construamos a AGI com segurança e que seus benefícios para a sociedade superem em muito quaisquer riscos.”
Os três executivos dirigirão o instituto, que reunirá pesquisadores da Google DeepMind, do Google e da comunidade global de pesquisa em geral.
Segundo a declaração, o DeepMind Institute também examinará como a AGI afeta o significado de ser humano, como os sistemas e as comunidades de agentes que eles formam devem ser governados e quais instituições e políticas a sociedade pode precisar adaptar ou reimaginar.
Os diretores disseram que os tecnólogos não devem fornecer todas as respostas. “A responsabilidade de moldar sua realidade coletivamente pertence à sociedade como um todo, incluindo as artes e as humanidades, e aos governos”, escreveram.
No entanto, os executivos reconheceram que os sistemas de IA atuais ainda podem falhar em tarefas básicas e não têm a consistência e a criatividade necessárias para atingir o patamar de uma AGI plena.
“Embora a IA ainda possa falhar às vezes em tarefas básicas”, escreveram os executivos, “esperamos que essas lacunas sejam eliminadas em breve.”
O lançamento ocorre à medida que as preocupações com os riscos da IA avançada ganham mais atenção. Na quinta-feira, o rei Charles alertou executivos de IAsobre “perigos existenciais” caso a tecnologia caia nas mãos erradas e pediu salvaguardas antes que seja “tarde demais”.