Recientemente, Microsoft presentó una demanda en el Tribunal de Distrito del Distrito Este de Virginia contra un grupo de hackers, acusándolos de acceder ilegalmente a la plataforma Azure OpenAI y usar el servicio para generar una gran cantidad de contenido dañino. Este incidente ha puesto de manifiesto las preocupaciones sobre la seguridad y los riesgos en el campo de la inteligencia artificial.
Según la demanda de Microsoft, estos hackers, de origen extranjero, lograron eludir las protecciones de seguridad accediendo al sistema Azure OpenAI mediante la obtención de credenciales de clientes de sitios web públicos. Una vez obtenidos los permisos de acceso de los clientes, no solo alteraron las funciones de la plataforma, sino que también la revendieron a otros usuarios malintencionados, proporcionándoles instrucciones detalladas sobre cómo utilizar estas herramientas de IA para generar contenido ilegal. Aunque Microsoft no ha revelado la naturaleza específica del contenido generado por los hackers, afirma que este viola gravemente las políticas y los términos de servicio de la empresa.
Para abordar esta vulnerabilidad de seguridad, Microsoft ha implementado varias medidas de seguridad nuevas con el objetivo de fortalecer la capacidad de defensa de la plataforma Azure OpenAI y prevenir que ocurran incidentes similares. Asimismo, en la demanda, Microsoft solicita al tribunal el embargo de los sitios web relacionados con las operaciones de los hackers para recopilar pruebas, rastrear a los responsables y desmantelar la infraestructura que apoya las actividades ilegales.
Microsoft señala que las acciones de estos hackers violan varias leyes estadounidenses, incluyendo la Ley de Fraude Informático y Abuso (Computer Fraud and Abuse Act), la Ley de Derechos de Autor del Milenio Digital (Digital Millennium Copyright Act) y las leyes federales de extorsión. Microsoft espera responsabilizar a estos delincuentes a través de vías legales.
