IBM presenta herramientas open source para securizar sistemas de Inteligencia Artificial

Cómo el SEO puede volverse un canal de Branding
21 abril, 2018
Diez consejos para ahorrar hasta 300 euros al año en electricidad y gas
23 abril, 2018
Mostrar todo

IBM presenta herramientas open source para securizar sistemas de Inteligencia Artificial

IBM

La seguridad es una de las preocupaciones principales de todos los que apuestan por la Inteligencia Artificial y su adopción en distintos ámbitos. Como resultado, demandan que las tecnológicas y las empresas de seguridad diseñen soluciones pensadas para elevar el nivel de protección de los sistemas que hacen uso de dicha tecnología. Según ZDNet, IBM es una de las que ha recogido el guante, y como muestra, un kit de herramientas open source que acaba de presentar para securizar sistemas de Inteligencia Artificial.

La compañía lo ha anunciado en la conferencia de seguridad RSA que se está celebrando en San Francisco, donde ha presentado este kit para apoyar a los desarrolladores y usuarios de sistemas de Inteligencia Artificial y evitar que puedan ser víctimas de ataques a través de ellos. Se denomina Adversarial Robustness Toolbox.

La finalidad de este kit es detectar hasta los pequeños cambios ocasionados por las debilidades en los sistemas de Inteligencia Artificial que pueden desembocar en ataques y brechas de seguridad. Estos pueden manifestarse incluso hasta con modificaciones en contenidos como imágenes, vídeos o grabaciones de audio. Todos pensados para engañar a dichos sistemas, e incluso para hacer que realicen operaciones maliciosas.

En definitiva, Adversarial Robustness Toolbox intenta combatir lo que se conoce comoInteligencia Artificial Antagonista (Adversarial AI). Para ello se dedica a recopilar datos de amenazas, así como a ofrecer a los desarrolladores ayuda a la hora de crear, probar y desplegar sistemas de defensa práctica para blindar sistemas de Inteligencia Artificial reales. Este kit incluye una biblioteca, interfaces y diversas métricas. Con estas herramientas, los desarrolladores podrán desarrollar soluciones de ciberseguridad para Inteligencia Artificial. Además, al ofrecerla a la comunidad open source, se abre la puerta a que otros desarrolladores puedan ampliar sus componentes.

Según han confirmado desde IBM, este kit  “contiene ataques, defensas y bancos de pruebas para implementar una seguridad avanzada. Los investigadores de IBM se decidieron a desarrollarla cuando descubrieron que las herramientas existentes no proporcionaban las defensas necesarias para proteger a los sistemas de Inteligencia Artificial“. También destacan que “este área de investigación emergente busca las mejores maneras de defender los sistemas de Inteligencia Artificiales en los que confiamos antes de que los ciberdelincuentes puedan atacarlos“.

Fuente: https://www.muycomputerpro.com/2018/04/18/ibm-open-source-inteligencia-artificial

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Información básica sobre protección de datos
Responsable Ara Marketing Consulting SL +info...
Finalidad Gestionar y moderar tus comentarios. +info...
Legitimación Consentimiento del interesado. +info...
Destinatarios Automattic Inc., EEUU para filtrar el spam. +info...
Derechos Acceder, rectificar y cancelar los datos, así como otros derechos. +info...
Información adicional Puedes consultar la información adicional y detallada sobre protección de datos en nuestra página de política de privacidad.

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.