inteligencia artificial
Kaspersky lleva casi dos décadas a la vanguardia de la integración de la inteligencia artificial (IA)―especialmente del aprendizaje automático (ML)― en sus productos y servicios.
Nuestra profunda experiencia y conocimiento en la aplicación de estas tecnologías a la ciberseguridad, junto con nuestros conjuntos de datos únicos, métodos eficientes e infraestructura avanzada para el entrenamiento de modelos, forman la base de nuestro enfoque para resolver los desafíos complejos del ML.
Nuestro Kaspersky AI Technology Research Center reúne a científicos de datos, ingenieros de ML, expertos en amenazas y especialistas en infraestructura para que aborden las tareas más desafiantes en los campos de la IA, el ML y la ciberseguridad. Esto incluye no solo el desarrollo de tecnologías aplicadas, sino también la investigación sobre la seguridad de los algoritmos de IA, incluido el uso de enfoques prometedores como el aprendizaje automático neuromórfico, la concienciación ante los riesgos de la IA y mucho más.
Nuestras tecnologías y productos
En Kaspersky, hemos desarrollado una amplia gama de tecnologías de detección de amenazas basadas en la IA y el ML, principalmente para detectar malware.
Entre estas se incluye un algoritmo de redes neuronales profundas para detectar archivos ejecutables maliciosos a partir de características estáticas, tecnología de ML de árbol de decisiones para la creación automatizada de reglas de detección que funcionan en los dispositivos del usuario y redes neuronales para detectar el comportamiento malicioso de los programas durante la ejecución.
También utilizamos un sistema para detectar recursos maliciosos online basado en telemetría anónima recibida de soluciones instaladas en los dispositivos del cliente y otras fuentes. Puede leer más sobre ellas en nuestro informe técnico Machine Learning for Malware Detection (Aprendizaje automático para la detección de malware).
Otros modelos, como el modelo de ML para detectar sitios web falsos y DeepQuarantine para poner en cuarentena los correos electrónicos sospechosos de ser spam, protegen a los usuarios de las amenazas de phishing y spam.
La infraestructura en la nube de KSN hace que nuestros desarrollos de IA estén disponibles casi instantáneamente tanto para usuarios particulares como empresas.
Guiados por la promesa de la IA generativa, en particular por los grandes modelos de lenguaje (LLM), hemos creado una infraestructura para explorar sus capacidades y desarrollar rápidamente prototipos de nuevas soluciones. Esta infraestructura, que implementa herramientas de LLM similares a ChatGPT, no solo es accesible para los empleados de todos los departamentos para sus tareas diarias, sino que también sirve como base para nuevas soluciones.
Por ejemplo, nuestro Kaspersky Threat Intelligence Portal pronto tendrá una nueva capacidad OSINT basada en LLM que entregará rápidamente resúmenes de los informes de amenazas para indicadores de compromiso específicos.
Con el fin de mejorar la seguridad de las infraestructuras de nuestros clientes, estamos desarrollando activamente tecnologías de IA adaptadas a nuestros principales productos y servicios corporativos.
Desde hace varios años, el analista de IA de Kaspersky Managed Detection and Response ayuda a reducir la carga de trabajo de los equipos del SOC filtrando automáticamente los falsos positivos. Solo el año pasado, esta tecnología cerró más de 100 000 alertas sin intervención humana. Esto permite a los expertos del SOC responder a las amenazas reales más rápidamente y dedicar más tiempo a investigar casos complejos y buscar amenazas de forma proactiva.
Otra de nuestras soluciones ―la puntuación del riesgo de hosts basada en IA en Kaspersky SIEM (plataforma Kaspersky Unified Monitoring and Analysis) y Kaspersky XDR― utiliza algoritmos de ML para buscar comportamientos sospechosos de hosts sin la necesidad de transferir datos fuera de una empresa.
Otra área clave del desarrollo de Kaspersky es el uso de la IA y el ML en entornos industriales. Esto incluye Kaspersky MLAD (Machine Learning for Anomaly Detection), una solución de software de análisis predictivo que reconoce automáticamente las primeras señales (ocultas) de fallos inminentes de equipos, interrupciones de procesos, errores humanos o ciberataques en señales de telemetría. Al entrenar continuamente la red neuronal, MLAD analiza el flujo de eventos “atómicos” del objeto, los estructura en patrones e identifica un comportamiento anormal.
Otro de nuestros proyectos es Kaspersky Neuromorphic Platform (KNP), un proyecto de investigación y una plataforma de software para soluciones de IA que se basa en redes neuronales activas y AltAI, el procesador neuromórfico energéticamente eficiente desarrollado por la empresa con sede en Rusia Motive Neuromorphic Technologies (Motive NT) en colaboración con Kaspersky.
La adopción generalizada de tecnologías de IA requiere el control de la seguridad, por lo que también hemos creado un equipo de seguridad de IA. Ofrece una serie de servicios destinados a garantizar la protección fiable de los sistemas de IA y frustrar posibles amenazas a los datos, los procesos comerciales y la infraestructura de IA.
Nuestra gente
En el pasado, las tareas basadas en ML las realizaban departamentos directamente involucrados en la detección de amenazas específicas. Sin embargo, debido al aumento en el número de tareas y la creciente importancia de las tecnologías de ML, decidimos transferir nuestra experiencia en sistemas basados en IA a un centro independiente, el Kaspersky AI Technology Research Center. Esto dio lugar a la creación de tres equipos principales que impulsan el uso de la IA en Kaspersky:
- El grupo de análisis de métodos de detección desarrolla algoritmos de ML para la detección de malware en colaboración con el equipo de análisis e investigación global (GReAT, por sus siglas en inglés) y el centro de investigación de amenazas. Sus sistemas de IA para la detección de malware tanto estático como basado en el comportamiento contribuyen directamente a la seguridad de nuestros usuarios.
- Investigación en Tecnología, que depende del Departamento de Tecnologías Futuras, se especializa en investigar tecnologías de IA prometedoras; desarrollar Kaspersky MLAD y KNP; desarrollar el procesador neuromórfico AltAI de próxima generación en colaboración con Motive NT; y proporcionar servicios de AIST para la seguridad de la IA.
- El equipo de MLTech es responsable de desarrollar la infraestructura corporativa de ML para entrenar modelos de ML, crear modelos de detección de amenazas de contenido (phishing y spam) e implementar tecnologías de IA, incluidas las basadas en LLM, en nuestros servicios y soluciones avanzados de carácter corporativo, como MDR, Kaspersky SIEM (Unified Monitoring and Analysis platform) y Kaspersky XDR.
Esto no significa que nuestra experiencia en IA se limite a los equipos mencionados anteriormente. Actualmente el campo de la IA es tan complejo y multifacético que es imposible concentrar todo el conocimiento en unos pocos grupos de investigación. Otros equipos también hacen contribuciones significativas al trabajo del centro y aplican el ML en muchas tareas: tecnologías de visión artificial en el equipo de Antidrone; investigación en asistentes de codificación de IA en los departamentos de CoreTech y KasperskyOS; búsqueda de APT en GReAT; y estudio de legislación de IA en el equipo de Relaciones Gubernamentales.
Nuestras investigaciones y patentes
La singularidad de nuestras tecnologías de IA se ve confirmada por las docenas de patentes que hemos obtenido en todo el mundo. En primer lugar, se trata de patentes para tecnologías de detección, como la detección de malware basada en registros de comportamiento de programas, la detección de servidores maliciosos en telemetría, sitios web falsos y spam con la ayuda del ML.
Pero la cartera de productos de Kaspersky abarca un rango mucho más amplio de tareas: tecnologías para mejorar conjuntos de datos para ML, detección de anomalías e incluso búsqueda de contactos sospechosos de niños en sistemas de control parental. Y, por supuesto, estamos patentando activamente nuestras tecnologías de IA para sistemas industriales y enfoques de redes neuronales únicos para procesar flujos de eventos.
Además, Kaspersky comparte activamente su experiencia en IA con la comunidad. Algunos estudios, como los dedicados a algoritmos de ML monótonos o a la aplicación de redes neuronales para la detección de spam, se publican como artículos académicos en importantes conferencias sobre ML. Otros se publican en portales especializados y en congresos sobre seguridad de la información. Por ejemplo, publicamos investigaciones sobre la seguridad de nuestros propios algoritmos de IA, en concreto sobre los ataques a los algoritmos de detección de spam y detección de malware. Estudiamos la aplicación de redes neuronales para el análisis de series de tiempo y exploramos el uso de redes neuromórficas en tareas relevantes para el sector. Nuestra Kaspersky Neuromorphic Platform (KNP) es un software de código abierto que estará disponible para su uso y desarrollo por parte de toda la comunidad del ML.
El tema del desarrollo y la aplicación seguros de la IA es de vital importancia para nosotros, ya que necesitamos poder confiar en nuestros algoritmos y estar seguros de su fiabilidad. Entre otros temas que tratamos están nuestra participación en desafíos de ciberseguridad que simulan ataques a sistemas de ML y el uso de tecnologías avanzadas como los LLM para detectar amenazas en los registros del sistema y enlaces de phishing. También hablamos sobre las amenazas a la IA generativa, incluido desde el punto de vista de la privacidad, los ataques a varios sistemas basados en LLM, el uso de la IA por parte de atacantes y la aplicación de nuestras tecnologías en los SOC. A veces abrimos las puertas y revelamos nuestro funcionamiento interno, y hablamos sobre el proceso de entrenamiento de nuestros modelos e incluso de las complejidades de evaluar su calidad.
Concienciación
Finalmente, la función más importante del Kaspersky AI Technology Research Center es concienciar a nuestros clientes y al público en general sobre los pros y los contras de las tecnologías de IA y las amenazas que plantean. Nuestros expertos del centro demuestran los peligros de los vídeos deepfake. Hablamos de aspectos específicos del uso de la IA (por ejemplo, cómo ChatGPT afecta al proceso de contratación de desarrolladores) y compartimos nuestras experiencias a través de seminarios web y mesas redondas.
El equipo de Investigación Tecnológica de FT organiza conferencias sobre tecnologías neuromórficas con un tema independiente dedicado a cuestiones de seguridad de la IA, incluidos los sistemas basados en el enfoque neuromórfico. Junto con nuestro socio, el Instituto de Programación de Sistemas de la Academia Rusa de Ciencias (ISP RAS, por sus siglas en inglés), estamos investigando varios vectores de ataque a las redes neuronales en las áreas de visión artificial, LLM y series de tiempo, así como las formas de protegerlas. Como parte de la asociación sectorial de Kaspersky con el ISP RAS, el equipo está probando muestras de marcos fiables de ML.
También participamos en el desarrollo de cursos educativos, incluido un módulo sobre el uso de la IA en ciberseguridad en la Universidad Técnica Estatal Bauman de Moscú. Otro ejemplo es nuestro módulo sobre el uso seguro de la IA en Kaspersky ASAP, nuestra solución para concienciar a los empleados sobre las ciberamenazas. Por último, estamos contribuyendo a la creación de un conjunto de estándares internacionales para el uso de la IA. En 2023, presentamos los primeros principios para el uso ético de los sistemas de IA en ciberseguridad en el Foro de Gobernanza de Internet.
En resumen, las principales tareas del Kaspersky AI Technology Research Center son el desarrollo de tecnologías de IA, su aplicación segura en el ámbito de la ciberseguridad, el control de las amenazas para evitar el uso indebido o malicioso de la IA y la previsión de tendencias. Todas estas tareas tienen un único propósito: garantizar el máximo nivel de seguridad para nuestros clientes.
Consejos