En una medida que refuerza los límites de las campañas políticas en el uso de la inteligencia artificial (IA), Open AI, empresa creadora de ChatGPT, eliminó un bot que imitaba la voz de un candidato a la Presidencia en Estados Unidos.
Un grupo político que respalda al congresista estadounidense Dean Phillips le encargó a una empresa en Miami que creara un bot conversacional que permitiera a los usuarios interactuar con el candidato a través de un formato pregunta-respuesta.
“Recientemente eliminamos la cuenta de un desarrollador que estaba violando conscientemente la política de uso de nuestra API (o plataforma), que no permite hacer campañas políticas o imitar a un individuo sin su consentimiento”, indicó la compañía al diario Washington Post.
El auge de la IA generativa despertó temores de que la gente pueda usar ChatGPT y otras plataformas para provocar caos político a través de desinformación o de clones hechos con la nueva tecnología, en particular por el importante calendario electoral de este año en el mundo.
Como líder en ese campo, OpenAI está bajo especial escrutinio alrededor de estas preocupaciones. La compañía publicó la semana pasada que ofrecerá herramientas a los usuarios para disminuir la posibilidad de daño proveniente de su tecnología.
El Dean-bot se creó como una herramienta de información sobre el candidato a las primarias del Partido Demócrata, que enfrenta al presidente Joe Biden.
La herramienta está basada en la tecnología de OpenAI, y fue removida luego de que el Washington Post la promocionara en un artículo.
We Deserve Better, el grupo político detrás del bot, lo codirige un exmiembro del equipo de Sam Altman y es financiado por inversionistas de Sillicon Valley.
“Nos hemos disculpado tanto con OpenAI como con We Deserve Better por nuestro error”, dijo Delphi, la startup encargada de desarrollar el bot que fue eliminada de la plataforma.