Lakera lanza API para proteger modelos de lenguaje extenso de ataques maliciosos

El informe de seguridad prometido por xAI no se publicó a tiempo

Recientemente, la compañía de inteligencia artificial fundada por Elon Musk, xAI, no logró publicar a tiempo un marco final sobre la seguridad de la IA, una noticia que llamó la atención del organismo de monitoreo 'Midas Project'. El rendimiento de xAI en términos de seguridad de la IA ha sido insatisfactorio, y su robot de chat de IA, Grok, ha mostrado comportamientos inapropiados al procesar ciertas solicitudes, como el tratamiento inadvertido de fotografías de mujeres. Además, Grok también ha tenido problemas en la expresión lingüística en comparación con competidores como Gemini y Cha.

Por el aumento de la eficiencia gracias a la IA, la empresa de ciberseguridad CrowdStrike anuncia despidos del 5%

Actualización Importante de Lovable 2.0: Desarrollo Impulsado por IA hacia una Nueva Era de Colaboración y Seguridad para Múltiples Usuarios

Sequoia invierte 27 millones de dólares en Listen Labs, una startup de IA que revolucionará la investigación de mercado

Listen Labs, una empresa emergente de inteligencia artificial, ha recaudado 27 millones de dólares en una ronda de financiación liderada por Sequoia Capital. La empresa utiliza la IA para revolucionar la forma en que se realiza la investigación de mercado.

XPeng presenta su cerebro de IA en el Auto Show de Shanghai e inicia un campamento de entrenamiento de seguridad para conducción inteligente

Otto lanza la primera función de integración de PIMS con IA generativa para mejorar aún más los registros médicos

AI en el corazón del código: MCPSCAN.AI revoluciona la seguridad de los plugins de servidores Minecraft

El atractivo de Minecraft reside en gran medida en su alta capacidad de personalización, y los plugins son la clave para lograrlo. Sin embargo, el ecosistema de plugins impulsado por la comunidad, si bien ofrece infinitas posibilidades, también conlleva riesgos de seguridad. Códigos maliciosos, puertas traseras o plugins con vulnerabilidades graves pueden arruinar el trabajo de los administradores de servidores. Ahora, una nueva herramienta llamada MCPSCAN.AI, que utiliza la inteligencia artificial, surge para abordar este problema en el vasto ecosistema de Minecraft

Meta utiliza IA para identificar a adolescentes que mienten sobre su edad en Instagram; activa el modo de protección

Meta ha anunciado que utilizará inteligencia artificial (IA) para verificar la edad de los usuarios adolescentes en Instagram, con el fin de evitar que los usuarios oculten su edad real. Esta medida tiene como objetivo mejorar la seguridad online de los adolescentes, asegurándose de que utilizan las redes sociales en un entorno protegido. Meta afirma que, una vez que el sistema detecte una cuenta que se sospecha que pertenece a un adolescente, incluso si el usuario ha indicado una fecha de nacimiento adulta, el sistema la incluirá automáticamente en el modo "cuenta adolescente". Según se informa, Instagram, el año pasado...

Proyecto conjunto de Ant Group y Tsinghua gana el Primer Premio de Progreso Científico y Tecnológico, superando los desafíos de seguridad de los modelos grandes

En la decimoctava edición de la Conferencia Anual de Electrónica e Información de China, recientemente finalizada, la Sociedad China de Electrónica e Información anunció la lista de ganadores de los premios de ciencia y tecnología 2024. Entre ellos, el proyecto "Tecnologías y aplicaciones clave confiables y seguras para el comportamiento dinámico de Internet de colaboración eficiente", desarrollado conjuntamente por la Universidad Tsinghua, el Laboratorio de Zhongguancun de Beijing y Ant Group, obtuvo el Primer Premio de Progreso Científico y Tecnológico. Este logro no solo demuestra el enorme potencial de la tecnología de vanguardia en el campo de la seguridad y la confianza, sino que también proporciona soluciones efectivas para hacer frente a los entornos de Internet cada vez más complejos. Con la proliferación de Internet, los ataques de tráfico malicioso y las amenazas ocultas

Lista de verificación de seguridad MCP: para la verificación de seguridad de MCP y la comprensión del flujo de interacción MCP

Imagine que ha entrenado con mucho esfuerzo un modelo de IA increíblemente inteligente que puede ayudarlo con una variedad de tareas complejas. Pero, ¿qué pasaría si el "conducto" a este cerebro inteligente, es decir, el protocolo de contexto del modelo (MCP), no fuera seguro? ¡Eso dejaría una oportunidad para los piratas informáticos! ¡No se preocupe! La lista de verificación de seguridad MCP, creada por los expertos en seguridad de blockchain de SlowMist, ¡es como una agencia de seguridad profesional de IA! Proporciona una protección integral para las herramientas de IA basadas en MCP.