Las empresas líderes en inteligencia artificial (IA) tienen el deber “moral” de proteger a la sociedad de los peligros potenciales de esta tecnología, dijo este jueves la vicepresidenta Kamala Harris a los directivos de Google, Microsoft, OpenAi y Anthropic.
“El sector privado tiene el deber ético, moral y legal de asegurarse de la seguridad de sus productos”, indicó Harris en un comunicado tras haberse reunido con Satya Nadella (Microsoft), Sundar Pichai (Google), Sam Altman (OpenAI) y Dario Amodei (Anthropic) y varios miembros del gobierno.
Harris señaló que la IA tiene el “potencial de mejorar la vida cotidiana y abordar algunos de los mayores desafíos de la sociedad”, pero también podría “aumentar drásticamente las amenazas a la seguridad, reducir los derechos humanos y la privacidad y socavar la confianza pública en la democracia”.
Dijo que apoya, junto con el presidente Joe Biden, quien rápidamente pasó por la reunión, “nuevas regulaciones potenciales” y “nueva legislación”.
La inteligencia artificial está presente hace años en la vida cotidiana, desde las redes sociales hasta los electrodomésticos de alta gama y los programas de reclutamiento de personal.
Sin embargo, el deslumbrante éxito desde fines del año pasado de ChatGPT, la interfaz de IA generativa de OpenAI, una empresa emergente financiada ampliamente por Microsoft, fue el punto de partida para una carrera hacia sistemas cada vez más intuitivos y eficientes, que son capaces de generar textos, imágenes y códigos de programación cada vez más complejo.
“Es bueno tratar de anticiparnos (en el tema de la regulación). No va a ser fácil pero creo que podemos llegar”, dijo Harris a los periodistas antes de ingresar a la Casa Blanca.
Su lanzamiento despertó entusiasmo e inquietudes a una nueva escala. Especialmente cuando Sam Altman, el director de OpenAI, anticipó la próxima generación de la llamada IA “general”, donde los programas serán “más inteligentes que los humanos en general”.
Sin obligaciones
Los riesgos de la IA van desde la discriminación hasta la automatización de tareas realizadas por humanos, el robo de propiedad intelectual o la desinformación sofisticada a gran escala, entre otros.
A fines de 2022, la Casa Blanca publicó un “Plan para una Declaración de Derechos de la IA”, un breve documento que enumera principios generales como la protección contra sistemas peligrosos o falibles.
A principios de este año, el Instituto Nacional de Estándares y Tecnología (NIST), un centro afiliado al gobierno, diseñó un “marco para la gestión de riesgos” relacionado con la IA.
El presidente Biden dijo el mes pasado que estas empresas “claramente (…) deben asegurarse de que sus productos sean seguros antes de ponerlos a disposición del público en general”, dice la invitación.
Sin embargo, “estas directrices y declaraciones no obligan a las empresas afectadas a hacer nada”, subrayó David Harris, quien fue director de investigación en IA en Meta.
“Los propios patrones reclaman más regulaciones”, remarcó, aunque Facebook, a pesar de haber “llamado públicamente” a mejorar las leyes que rigen la confidencialidad de los datos personales, “paga al mismo tiempo a lobbis que combaten estos proyectos de ley”.
La Casa Blanca anunció el jueves nuevas inversiones en la investigación sobre IA y nuevos métodos de evaluación de los sistemas actuales.
DAÑO REAL
Los gigantes de la IA no niegan que existan riesgos, pero temen que se asfixie la innovación por leyes demasiado restrictivas.
“La IA será utilizada por actores maliciosos, y sí, va a causar daños”, dijo el miércoles el economista jefe de Microsoft, Michael Schwarz, durante un panel en el Foro Económico Mundial, según Bloomberg.
Pero pidió a los legisladores que no se apresuren y que cuando haya un “daño real”, se aseguren de que “los beneficios de la regulación sean mayores que el precio para la sociedad”.
“La última vez que nos enfrentamos a semejante convulsión social debido a las tecnologías fue a comienzos de la web 2.0, en los años 2002”, dijo el miércoles Lina Khan, presidenta de la Comisión Federal de Comercio, la agencia estadounidense de protección al consumidor.
Al otro lado del Atlántico, Europa espera liderar de nuevo el camino hacia una regulación ad-hoc en torno a la IA, como ya los hizo con la ley de datos personales.
“No es una carrera. Estamos trabajando en conjunto con nuestros colegas europeos”, dijo un alto funcionario de la Casa Blanca.
