Además, el popular chatbot fue utilizado para generar contenido falso en vista de diversos acontecimientos electorales, incluidas las próximas elecciones estadounidenses, que se desarrollarán en noviembre.
En su último informe de seguridad, la empresa dirigida por Sam Altman explicó que ChatGpt fue utilizado por varios grupos de ciberdelincuentes.
Entre ellos, el chino SweetSpecter, que envió correos electrónicos de phishing al personal de la empresa.
El plan tenía previsto ocultar archivos maliciosos dentro de algunas solicitudes falsas de soporte, cuyos archivos adjuntos conducen a la instalación del malware SugarGh0st que se cuela en los sistemas informáticos y roba datos.
Por su parte, el grupo iraní Storm-0817 utilizó ChatGpt para crear un software que recopila datos en Instagram y LinkedIn.
Y la inteligencia artificial también se usó para generar malware por Android, en condiciones de robar datos como contactos, historial de llamadas, archivos y ubicación del usuario.
OpenAI anunció que ya prohibió permanentemente todas las cuentas utilizadas por los piratas informáticos, compartiendo los datos recopilados con autoridades, analistas e investigadores en el campo de la ciberseguridad.
A solo unas semanas de las elecciones estadounidenses, previstas para el próximo 5 de noviembre, la compañía también dijo que había visto una serie de intentos por parte de "actores externos" que utilizaban sus modelos de inteligencia artificial para generar contenido falso, incluidos artículos y comentarios en redes sociales.
Hasta el momento, explicó, más de 20 intentos de ese tipo fueron frustrados.
Los usos de la inteligencia artificial relacionados con las elecciones, escribe OpenAI, "varían en complejidad, desde simples solicitudes de generación de contenido hasta respuestas a publicaciones en las redes sociales".
Los contenidos se referían, principalmente, a las elecciones en Estados Unidos y Ruanda y, en menor medida, a las elecciones en India y en la Unión Europea.
El aumento del contenido generado por la inteligencia artificial generó serias preocupaciones de desinformación relacionada con las elecciones, con el número de "deepfakes" creados en aumento en un 900% año tras año, según datos de Clarity, una empresa de aprendizaje automático.
Se trata de datos preocupantes, teniendo en cuenta que, en 2024, las citas electorales en todo el mundo afectan a más de 4.000 millones de personas en más de 40 países.
Por último, también se demostró, recientemente, que las medidas de seguridad de ChatGpt se puede eludir para obtener una guía que explique cómo fabricar explosivos.
De hecho, tuvo éxito un hacker y experto en informática conocido como Amadon.
Después de ese incidente, OpenAI tomó precauciones para evitar la repetición de solicitudes similares.
Ese fue otro episodio que se sumó a los planteamientos de cuestiones éticas y de seguridad en relación con la inteligencia artificial generativa.
TODOS LOS DERECHOS RESERVADOS © Copyright ANSA