Un bot basado en ChatGPT imitó a un candidato presidencial estadounidense: OpenAI ha tomado medidas
OpenAI ha vetado al desarrollador de un bot de inteligencia artificial que imita al candidato demócrata a la presidencia de EE.UU. Dean Phillips (en la foto). Esta es la primera respuesta de ChatGPT a lo que considera un uso indebido de sus herramientas de IA en una campaña política.
El chatbot Dean.Bot fue creado por los empresarios Matt Krisiloff y Jed Somers en apoyo de Phillips en vísperas de las elecciones primarias de New Hampshire, con el respaldo financiero del gestor de fondos de cobertura Bill Ackman, activista y multimillonario. El bot se basó en el modelo de lenguaje GPT de OpenAI.
Los autores de la idea firmaron un contrato con Delphi, una startup de inteligencia artificial, para crear un bot. OpenAI suspendió la cuenta de Delphi y señaló que las normas de OpenAI prohíben el uso de su tecnología en campañas políticas. Delphi ha cerrado Dean.Bot tras la suspensión de la cuenta.
“Cualquiera que cree con nuestras herramientas debe adherirse a nuestra política de uso. Recientemente hemos eliminado una cuenta de desarrollador que violaba a sabiendas nuestras condiciones de uso de la API, que prohíben hacer campaña política o suplantar la identidad sin consentimiento”, afirma Lindsey Held, portavoz de OpenAI.
El bot advertía de que se trataba de una herramienta de inteligencia artificial, no del verdadero Dean Phillips, y exigía que el votante aceptara su uso. Pero estas tecnologías pueden hacer que la gente confunda una herramienta de este tipo con una persona, aunque haya advertencias.
Los defensores de este método de campaña argumentan que los bots, si se utilizan correctamente, pueden educar a los votantes ofreciéndoles una forma interesante de conocer mejor a un candidato.
Según los expertos, estas tecnologías pueden provocar una oleada de llamadas automatizadas a los votantes, que creen estar hablando con candidatos reales. Los sistemas de inteligencia artificial también pueden producir desinformación a gran escala.
Los clientes pidieron a Delphi que eliminara ChatGPT del bot y en su lugar se basara en tecnologías de código abierto que también ofrecen capacidades conversacionales.
