Bill Gates pide a los laboratorios de IA que implementen sistemas capaces de rastrear lo que hacen sus modelos, en lugar de depender de un «interruptor de emergencia» para evitar daños graves.
En una entrevista con NBC emitida el domingo, el cofundador de Microsoft dijo que no se oponía a un sistema que desconectara los modelos en caso de desastre. Argumentó que un interruptor de emergencia tiene su utilidad, pero no bastaría en una era en la que «pequeños grupos con IA pueden hacer lo que antes solo podían hacer los países más poderosos».
«Nunca querría decir que estoy en contra de un interruptor de emergencia», añadió. «Pero cuando intentas moderar el mal comportamiento, necesitas conocer y registrar lo que se está haciendo. Por eso, el interruptor de emergencia por sí solo no evitaría estas tragedias».
Los actores maliciosos pueden aprovechar la IA para atacar las redes eléctricas o entrar en cuentas bancarias, afirmó Gates, y añadió que la tecnología también ha alcanzado umbrales clave en áreas como la biotecnología y los ciberataques.
Mientras tanto, pidió a los gobiernos que refuercen la regulación y afirmó que deberían participar en la supervisión de lo que hacen los sistemas de IA. Señaló que esas medidas no tendrían por qué ralentizar el desarrollo de la industria ni la carrera de EE. UU. con China.
El filántropo también advirtió que alcanzar un acuerdo internacional sobre las normas de IA podría resultar más difícil que las negociaciones de la Guerra Fría sobre armas nucleares.
«Esto es más difícil de lo que fue aquello», afirmó, aludiendo a la complejidad de lograr que los países acuerden normas para una tecnología desarrollada en gran medida por empresas privadas.
Señaló los acuerdos internacionales sobre seguridad aérea, la capa de ozono y las armas nucleares como ejemplos de ámbitos en los que los países dejaron de lado sus diferencias para establecer normas comunes, y sostuvo que la IA requeriría un esfuerzo similar.