Empresas de IA comparecerán bajo juramento para exponer los riesgos de su tecnología
Las principales empresas de inteligencia artificial tendrán que responder bajo juramento ante el Concejo municipal de Nueva York por los riesgos asociados al desarrollo y uso de esta tecnología, según la agencia EFE. Anthropic, OpenAI, Google y Meta deberán comparecer el próximo 5 de octubre ante el pleno del Concejo, donde deberán abordar los potenciales […]
Las principales empresas de inteligencia artificial tendrán que responder bajo juramento ante el Concejo municipal de Nueva York por los riesgos asociados al desarrollo y uso de esta tecnología, según la agencia EFE.
Anthropic, OpenAI, Google y Meta deberán comparecer el próximo 5 de octubre ante el pleno del Concejo, donde deberán abordar los potenciales peligros de la IA y las posibles medidas legales para enfrentarlos.
La audiencia adquiere relevancia porque las compañías no acudieron inicialmente de forma voluntaria. Según la presidenta del Concejo, Julie Menin, las cuatro confirmaron su asistencia, la mayoría a última hora, después de que un abogado de la ciudad advirtiera sobre la obligatoriedad de comparecer en respuesta a una citación judicial.
El encuentro colocará a algunas de las mayores compañías tecnológicas del mundo frente a los legisladores de Nueva York, en un proceso que busca determinar qué riesgos plantea la expansión de la IA y hasta dónde debería llegar la regulación.
SpaceXAI, la empresa de Elon Musk, no respondió a tiempo a la solicitud, por lo que ha recibido una citación, indicó Menin en un comunicado.
La líder del Concejo señaló que se trata de una «inusual» sesión plenaria para examinar los riesgos potenciales que plantean las tecnologías de IA en rápido desarrollo.
«La IA podría matarnos a todos al final de esta década», advierte ingeniero de Anthropic
REUNIÓN EN MEDIO DE POLÉMICAS
La sesión se celebrará después de que los líderes de estas empresas, encabezados por el director ejecutivo de Anthropic, Dario Amodei, hicieran un llamado a poner freno al desarrollo de los modelos de IA ante lo que consideran «graves riesgos» de seguridad y para la humanidad.
El presidente de Estados Unidos, Donald Trump, ha rechazado esa propuesta, al señalar que su país debe mantener el liderazgo sobre China y al asegurar que bajo las leyes existentes se puede vigilar el desarrollo de la IA.
«Los principales expertos y los propios ejecutivos de IA advierten sobre los riesgos potencialmente graves del rápido avance de la IA, y los gobiernos tienen la responsabilidad de actuar. Eso es precisamente lo que está haciendo el Ayuntamiento de Nueva York», indicó Menin.
La presidenta del legislativo neoyorquino señalo, además, que debido a la «gravedad» de la situación, estas empresas tienen la obligación de comparecer ante el Consejo, responder a preguntas y aportar su opinión bajo juramento sobre la leyes que al respecto emanen de esta institución oficial.
El Concejo también ha recabado testimonios de destacados expertos nacionales en seguridad, tecnología y protección del consumidor en el ámbito de la IA.
Si SpaceXAI no cumple con la citación judicial, el Consejo podrá solicitar su ejecución judicial ante el Tribunal Supremo del estado.