El CEO de Meta, Mark Zuckerberg, pareció involucrarse el martes por la noche en el debate sobre el ritmo de desarrollo de la inteligencia artificial, al decir que la empresa retrasó durante varios meses su producto de asistente personal de IA, Muse, sin pedir a sus rivales que hicieran lo mismo.
Durante el fin de semana, el CEO de Anthropic, Dario Amodei, había propuesto ralentizar el ritmo del desarrollo de la IA, citando preocupaciones sobre seguridad y alineación. Sam Altman, de OpenAI, Demis Hassabis, de Google DeepMind, y Elon Musk, de SpaceXAI, también mostraron su apoyo a esta dirección.
«Meta retrasó el lanzamiento de Muse durante varios meses para centrarse en la seguridad y la protección», Zuckerberg publicó en X. «No pedimos que todos los demás hicieran esto antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque estaba claro que era lo correcto para las personas y para nosotros».
El responsable de Meta afirmó que todos los laboratorios de IA tienen la responsabilidad de entrenar sus modelos a un ritmo seguro y pueden tomar sus propias medidas para garantizarlo, y añadió que recurrir a evaluadores y asesores independientes es una buena práctica del sector.
Incentivos para la autorregulación
Como las personas no quieren agentes que estén desalineados con ellas y no hagan lo que les piden, los laboratorios ya tienen un fuerte incentivo para lograr que sus modelos estén más alineados. Además, los laboratorios afrontan una responsabilidad legal considerable si sus modelos causan daños, por lo que también tienen un fuerte incentivo para evitarlo, afirmó el CEO de Meta.
«Cualquier laboratorio que no se centre en la alineación se quedará atrás», añadió.
En respuesta a los comentarios anteriores de Amodei, el ex zar de la IA de la Casa Blanca, David Sacks dijo que los laboratorios que desarrollan modelos de frontera deberían ralentizar el desarrollo si creen que es peligroso. Sin embargo, sostuvo que deberían hacerlo voluntariamente, en lugar de utilizar las preocupaciones de seguridad para justificar una regulación que podría consolidar su dominio del mercado.
«Destinar la gran mayoría de la capacidad de cómputo a servir a las personas, en lugar de competir por alcanzar la automejora recursiva, es una de las mejores formas de garantizar que desarrollemos esta tecnología de manera segura», afirmó Zuckerberg. «Meta ha asumido este compromiso y otros laboratorios también pueden hacerlo».