El debate sobre los posibles peligros que plantea la inteligencia artificial se vuelve cada vez más recurrente en el mundo. Investigadores advirtiendo una vez más que la tecnología podría acabar con la humanidad, y líderes de empresas de IA sugirieron que el desarrollo debía ralentizarse. Sin embargo, nada de esto está sucediendo, ni los Estados avanzaron en regulaciones sobre el uso y aplicación de estas tecnologías.
Uno de los cofundadores de la empresa de IA Anthropic planteó en una entrevista con la BBC que las IA deberían tener un sistema de apagado de forma obligatoria. ¿Es posible de implementar?
Los especialistas lo llaman “kill switch” o interruptor de apagado. Este término refiere a la “capacidad de interrumpir la ejecución de un modelo de IA generativa” explicó Nicolas Papernot a AFP.
El mecanismo es pensando para que entre en acción en caso de que una inteligencia artificial salga de control y afecte la seguridad. Esta situación también se podría plantear ante la propagación de un virus mediante un programa que utilice esta tecnología.
Para otro investigador, Thierry Poibeau, director de investigación en el CNRS y especialista en IA, la imagen de un único botón que permita “apagar la IA” es engañosa.
“No se puede realmente cortar la IA así como así, hay una gran cantidad de empresas en todo el mundo, de programas, de servicios distintos”, afirma. “No hay nadie que controle la IA” en su conjunto. En cambio, sí es técnicamente posible detener un sistema concreto cuando se controlan las máquinas y los servicios de los que depende.
En lo que coinciden los especialistas es que, cuanto más se integra la IA en las actividades cotidianas, mayor es el riesgo de que su apagón también paralice los usos legítimos.
Papernot dijo: “A medida que la IA está cada vez más integrada en todas nuestras instituciones y empresas, y a medida que automatizamos más y más aspectos de la vida diaria usando IA, será más difícil usar la potencia de cálculo como interruptor de apagón — porque eso significará que todas esas otras funciones legítimas también se detendrán por completo.”
Detener un sistema de IA podría degradar servicios de los que ya dependen empresas, administraciones públicas o instituciones sanitarias.
Para Jean-Gabriel Ganascia, profesor de informática en la Universidad de la Sorbona, el debate sobre el “interruptor de apagación” puede alimentar la idea engañosa de que el mayor riesgo de la IA es que desarrolle una voluntad propia. En cambio, dijo, el riesgo más concreto radica en nuestra creciente dependencia de tales sistemas.