La compañía OpenAI, responsable de ChatGPT, una plataforma de inteligencia artificial (IA) capaz de generar textos coherentes, borró un bot que emulaba la voz de un aspirante a la presidencia de Estados Unidos, una acción que muestra las restricciones de las campañas políticas en el empleo de la IA.
Un colectivo político que apoya al congresista estadounidense Dean Phillips contrató a una empresa de Miami para que diseñara un bot conversacional que permitiera a los usuarios dialogar con el aspirante mediante un formato de preguntas y respuestas.
“Recientemente eliminamos la cuenta de un desarrollador que estaba violando conscientemente la política de uso de nuestra API (o plataforma), que no permite hacer campañas políticas o imitar a un individuo sin su consentimiento”, declaró el sábado OpenAI al periódico Washington Post.
El crecimiento de la IA generativa ha generado temores de que la gente pueda usar ChatGPT y otras plataformas para causar caos político a través de desinformación o de réplicas hechas con IA, sobre todo por el relevante calendario electoral de este año en el mundo.
Como líder en ese campo, OpenAI está bajo especial vigilancia en torno a estas preocupaciones. La empresa anunció la semana pasada que brindará herramientas a los usuarios para reducir la posibilidad de daño derivado de su tecnología.
“Dean-bot”
El “Dean-bot” se creó como una herramienta de información sobre el aspirante a las primarias del Partido Demócrata, que se enfrenta al presidente Joe Biden.
La herramienta se basa en la tecnología de OpenAI, y fue retirada después de que el Washington Post la publicitara en un artículo.
We Deserve Better, el colectivo político detrás del bot, lo codirige un exintegrante del equipo de Sam Altman, director ejecutivo de OpenAI, y es financiado por inversionistas de Sillicon Valley.
“Nos hemos disculpado tanto con OpenAI como con We Deserve Better por nuestro error”, afirmó Delphi, la startup encargada de desarrollar el bot que fue eliminada de la plataforma de OpenAI.
Con información de RFI / AFP.
