Empleados actuales y exempleados de la organización OpenAI, junto con un grupo de expertos en inteligencia artificial, señalaron a las principales empresas de IA de no cumplir con la transparencia y la rendición de cuentas necesarias para abordar los riesgos emergentes de esta tecnología.
En el comunicado, se expresó una preocupación conjunta sobre los riesgos de seguridad asociados con esta inteligencia, que incluye “desde el mayor afianzamiento de las desigualdades existentes, la manipulación y la desinformación, hasta la pérdida del control de los sistemas autónomos de IA que podrían resultar en la extinción humana“.
Entre los 16 firmantes de la carta, que incluyen investigadores y expertos, se argumentó que estas empresas tienen fuertes incentivos financieros para evitar una supervisión efectiva, lo que podría llevar a prácticas no transparentes y riesgosas para la sociedad.
Además se añadió que la autorregulación actual no aborda de manera efectiva los desafíos emergentes relacionados con la IA.
De acuerdo con las declaraciones de los signatarios, estas empresas “poseen información sustancial no pública sobre las capacidades y limitaciones de sus sistemas, la adecuación de sus medidas de protección y los niveles de riesgo de diferentes tipos de daño”.
“Sin embargo, actualmente solo tienen obligaciones débiles de compartir parte de esta información con los gobiernos, y ninguna con la sociedad civil. No creemos que se pueda confiar en que todos lo compartan voluntariamente”, añadieron.
Entre los firmantes, se encuentran cuatro empleados que laboran actualmente en OpenAI, sin embargo, firmaron la demanda de manera anónima, debido al temor de represalias por parte de la compañía.
En respuesta, OpenAI rechazó las acusaciones, y enfatizó su compromiso con la seguridad y la transparencia.