David Sacks descartó las advertencias de que la inteligencia artificial podría acabar con la humanidad, calificándolas de «histrionismo doomer», y afirmó que la renuncia viral de la semana pasada de un investigador de Anthropic formaba parte de una campaña para conseguir apoyo a un mayor control gubernamental de la IA.

«Esto parece una operación», dijo Sacks durante un episodio del viernes de All-In podcast. «No fue un acto espontáneo de un empleado que dijo: “Oh, simplemente voy a publicar mi carta de renuncia en Twitter”. Fue algo orquestado».

El debate se centró en Jacob Coxon, quien recientemente renunció a Anthropic tras haber trabajado anteriormente en OpenAI. Coxon advirtió que ambas empresas estaban «corriendo directamente hacia una superinteligencia auto-mejorable» y «jugándose nuestras vidas».

Evan Hubinger, líder de ciencias de alineamiento en Anthropic, redobló entonces sus comentarios sobre Coxon y dijo que cree que hay una probabilidad superior al 10 % de que la IA pueda matar a todos los seres humanos en algún momento de la próxima década.

Sacks, anteriormente zar de la IA y las criptomonedas del presidente Donald Trump, argumentó que no tenían pruebas que respaldaran sus opiniones.

«Todo esto son solo sensaciones por su parte», dijo Sacks. «Muéstrennos los datos. Muéstrennos los informes. Muéstrennos la información filtrada que el público no tuviera ya. Muéstrennos los hechos. Muéstrennos las pruebas».

¿Un truco publicitario?

Sacks también dijo que la posterior amplificación de la publicación de Coxon por parte de grupos de seguridad de la IA es una prueba aún mayor de que se trata de un truco publicitario cuyo objetivo es asustar al público para que acepte un nuevo regulador federal de la IA y restricciones que asfixiarían el desarrollo de código abierto.

«Esta es una psyop doomer y el objetivo final es el código abierto», dijo Sacks, y añadió que unas normas que exigieran que los modelos permanecieran bajo supervisión centralizada y tuvieran los llamados «interruptores de apagado» supondrían el fin de la IA de código abierto en EE. UU.

Chamath Palihapitiya, antiguo directivo de Facebook, también intervino y afirmó que las advertencias colocan a Anthropic en una situación difícil mientras, según se informa, se prepara para una oferta pública inicial.

«Tienen que elegir», dijo Palihapitiya. Si Anthropic acepta que su tecnología conlleva un riesgo real de destruir a la humanidad, tendría que revelarlo a los inversores, quienes probablemente exigirían entonces «un descuento enorme». Si la empresa descarta las advertencias, tendrá que afrontar la reacción negativa del público que esto conllevaría.

Mientras tanto, David Friedberg reconoció que la IA podría utilizarse potencialmente en ciberataques o ayudar a crear armas biológicas peligrosas, pero sostuvo que los sistemas críticos de IA ya cuentan, por lo general, con suficiente supervisión humana y redundancias para evitar que se descontrolen demasiado.

«Creo que estamos en esta fase de histeria del doomerismo de la IA», dijo Friedberg.