ChillStack Co., Ltd. ChillStack y Mitsui & Co. Secure Direction inician una investigación conjunta sobre tecn ología de protección de IA

ChillStack Inc.
ChillStack y Mitsui & Co. dirección segura comienzan una investigación conjunta sobre tecnología para proteger la IA
-Verificación y sistematización de técnicas de ataque de IA, y experimentos de demostración de tecnología de defensa contra ataques- ………………………………………………………………………
ChillStack Co., Ltd. (CEO: Michiaki Ito, en adelante «ChillStack») y Mitsui & Co. Secure Direction Co., Ltd. (Presidente: Toshio Kamiyoshi, en adelante «Mitsui Bussan Secure Direction») aseguran el desarrollo, suministro y uso de IA. Se ha iniciado la investigación sobre tecnología para proteger la IA que se llevará a cabo en Japón (en adelante, «la investigación conjunta»).
[Antecedentes de esta investigación conjunta]
En los últimos años, junto con el desarrollo de la tecnología AI * 1, la implementación social de la IA ha progresado en varios campos en Japón, como los sistemas de reconocimiento facial, los sistemas de seguridad y las tecnologías de conducción autónomas. Al mismo tiempo, ha habido muchos métodos de ataque contra la IA, y se necesita con urgencia el establecimiento de tecnología de defensa. Sin embargo, las técnicas de ataque para la IA a menudo difieren fundamentalmente en principio de las técnicas de ataque para los sistemas existentes, y es extremadamente difícil tomar contramedidas con las tecnologías de seguridad convencionales.
La siguiente figura muestra un ejemplo del proceso de desarrollo de IA * 2 y las amenazas * 3 esperadas en cada proceso.
[Imagen

Procesos de desarrollo de IA y posibles amenazas.
Si no se considera la seguridad en cada proceso de desarrollo, la puerta trasera se instala en AI mediante la inyección de datos creados por el atacante en los datos de aprendizaje, y los datos de entrada de AI se disfrazan Existe la posibilidad de que problemas como los errores en el juicio de la IA se hagan evidentes.
[Esquema de la investigación conjunta]
En esta investigación conjunta, continuaremos investigando nuevos métodos de ataque y tecnologías de defensa mientras verificamos y sistematizamos los métodos de ataque conocidos.
-Formación práctica-
En base a los resultados de los experimentos de demostración, etc., desarrollaremos y brindaremos capacitación práctica como una de las actividades para difundir la tecnología para garantizar la seguridad de la IA, lo que le permitirá «aprender la tecnología de seguridad de la IA de Ichi».
Planeamos lanzar la siguiente capacitación práctica alrededor de mayo de 2020. Ataque para engañar a la IA: utilizando datos con pequeños cambios que no pueden ser identificados por humanos, aprenda los métodos de ataque y las contramedidas que engañan intencionalmente a la IA.
Ataques que se apoderan de la IA: aprenda los métodos de ataque y las contramedidas que contaminan el conjunto de datos que la IA aprende e instale las puertas traseras de la IA para que la IA se comporte como se esperaba.
Intrusión en sistemas de inteligencia artificial: aprenda los métodos de ataque y las contramedidas que se infiltran en los sistemas mediante la explotación de las especificaciones del marco de aprendizaje automático.
Actualizaremos el contenido de la capacitación práctica según sea necesario y proporcionaremos materiales de capacitación para el aprendizaje automático sin experiencia y la seguridad avanzada de la IA.
ChillStack y Mitsui & Co. Secure Direction contribuirán al desarrollo de la tecnología de inteligencia artificial al apoyar la construcción segura de inteligencia artificial.
* 1 Se refiere a un sistema que utiliza el aprendizaje automático, como el aprendizaje profundo.
* 2 Este es un ejemplo del proceso de desarrollo. Dependiendo de la organización, se puede utilizar otro proceso de desarrollo.
* 3 Este es un ejemplo de amenaza, y hay otras amenazas a considerar. [Investigador]
■ ChillStack
Michiaki Ito, CEO
・ Recibí el IEEE CSPA 2018 Best Paper Award.
・ Gran Premio del Security Camp Forum 2018.
・ Profesor del próximo campamento de seguridad (2019)
・ Elección de segundo año de la Fundación Kuma (2019)
・ Operación SECCON NOC (2017)
・ Profesor del taller SECCON (2019)
Asesor técnico Ryo Ichikawa
・ Líder del equipo CTF TokyoWesterns
・ HITCON CTF Finals 3rd (2019)
・ Participó en las Finales DEF CON CTF (2018, 2019)
・ WCTF 1er lugar (2018)
・ CODE BLUE Briefings Presentation ・ Mejor presentación U25 (2019) ・ Profesor AIS3 (Taiwán) (2019)
・ Taller NDSS sobre investigación de análisis binario (BAR)
Conferencia invitada (2019)
・ Campeón ISUCON8 (2018)
Científico de datos Shunta Nagasawa
・ Copa Gunosy de Peakers Academy 3rd (2019)
・ Ganador del concurso de análisis de datos DeNA (2019)
・ Signate AI Drug Discovery: Medalla de plata de parámetros
farmacocinéticos (2019)
・ Presentación del XIV Simposio de la Asociación de Jóvenes de PNL (2019) ・ Presentación de la 26ª Conferencia Anual de la Sociedad de Procesamiento Lingüístico (2019)
・ Presentación del informe de la encuesta integral de ACL (2019) ■ Dirección segura de Mitsui Bussan
Toshitsugu Yoneyama, Director, Centro de Seguridad de Tecnología Avanzada ・ Cazarrecompensas de insectos
・ Número de informes de vulnerabilidad corregidos (CVE * 4 adquirido) 47 (desde 2016)
・ Hack2Win (CÓDIGO AZUL) 3er lugar (2017)
・ Presentación de Black Hat Arsenal ASIA (2018, 2019)
・ Presentación en DEF CON DemoLabs (2018)
・ Altavoz de Bsides Tokyo (2018)
・ JANOG 41, orador de la reunión (2018)
* 4 Vulnerabilidades y exposiciones comunes. Un identificador universal que identifica vulnerabilidades en productos y servicios. Isao Takaesu Ingeniero de Seguridad, Centro de Seguridad de Tecnología Avanzada ・ Profesor del próximo campamento de seguridad (2019)
・ Profesor del taller SECCON (2019)
・ Hack In The Box-Judge para AI Challenge (2019)
・ Código BLUE Briefings / Blue Box (2016, 2019)
・ Black Hat Arsenal ASIA / USA / EURO (2016, 2018, 2019)
-DEF CON DemoLabs / AI Village Speaker (2018)
・ BSides Singapur / Tokio (2019)
・ Presentación PYCON JP (2017)
Kazuki Hirota Ingeniero de seguridad, Centro de seguridad de tecnología avanzada ・ Profesor de campamento de seguridad (2015, 2016, 2019)
・ SECCON2013 Campeón Tokai
・ 3er en SANS Netwars (2014)
・ Profesor de la Universidad de Electro-Comunicaciones (2017-) ・ Redacción de libros relacionados con la seguridad cibernética (desde 2015) [Perfil de la empresa]
ChillStack Inc.
Ubicación: 1-2-3, Kajinocho, Koganei-shi, Tokio
Representante: Michiaki Ito, CEO
Descripción del negocio:
Provisión de sistema de detección de fraude de ID utilizando AI Desarrollo de sistemas de IA y consultoría
Servicio de soporte por análisis de registro
ChillStack Co., Ltd. es una empresa que desarrolla y proporciona nuevas tecnologías de seguridad, como el sistema de detección de fraudes altamente preciso «Stena» que usa IA, la evolución de las tecnologías de seguridad cibernética existentes con IA y la seguridad que protege a la propia IA. Es.
Para obtener más información, visite el sitio web (https://chillstack.com/). Mitsui & Co. Dirección segura Co., Ltd.
Ubicación: 1-14-8 Nihonbashi Ningyocho, Chuo-ku, Tokio Yusen Suitengumae Building 6F
Representante: Toshio Kamiyoshi, Presidente
Descripción del negocio:
Servicios profesionales en seguridad de la información.
Servicios de gestión de seguridad de la información.
Servicios de consultoría en seguridad de la información.
Mitsui & Co., Secure Direction Co., Ltd., establecida en 2001, cuenta con tecnologías de seguridad avanzadas como pruebas de penetración / TLPT / equipo rojo, varios servicios de diagnóstico como aplicaciones web y diagnóstico de vulnerabilidad de red, análisis de malware, SOC avanzado y servicios de búsqueda de amenazas. Una empresa de ciberseguridad que brinda servicios y servicios de consultoría. Consulte el sitio web (https://www.mbsd.jp/) para obtener más detalles. [Consultas sobre este asunto]
ChillStack Inc.
admin@chillstack.com
Mitsui & Co. Dirección segura Co., Ltd.
ai-sec@mbsd.jp

Japonés original:


https://prtimes.jp/main/html/rd/p/000000004.000046548.html
* Este correo electrónico se envía automáticamente, así que no responda.
Publicado por PR TIMES Inc.