Informáticos detectan los puntos débiles de los algoritmos de aprendizaje automático
El aprendizaje automático es la mayor revolución de la informática en décadas. Gracias a los algoritmos de aprendizaje, los ordenadores pueden realizar proezas sensacionales incluso en tareas abstractas. Pero, al igual que los humanos, los ordenadores cometen errores en el proceso, y entender por qué un algoritmo de aprendizaje automático comete ciertos errores es uno de los retos clave de la informática moderna.
Aquí es donde entran Michael Hedderich y Jonas Fischer con su investigación. Han desarrollado un software capaz de detectar los puntos débiles de algoritmos de aprendizaje automático muy complejos y ayudar así a corregirlos.
Gracias a los algoritmos de aprendizaje automático, los ordenadores pueden realizar proezas asombrosas, incluso en ámbitos que antes sólo se atribuían a los humanos, como el lenguaje y las bellas artes. Estos métodos computacionales se basan en las llamadas redes neuronales artificiales. "Se trata de redes de funciones matemáticas que ponderan una entrada en función de ciertos parámetros personalizables y generan una salida a partir de ella", explica Michael Hedderich, investigador de las universidades de Saarland (Alemania) y Cornell (Estados Unidos). Estas funciones, llamadas neuronas, se conectan en serie y se entrenan con ayuda de datos, de modo que los ordenadores son capaces, por ejemplo, de filtrar los gatos en millones de fotos o de producir diálogos con personas de apariencia engañosamente real.
"Uno de los algoritmos de síntesis de texto más avanzados y actualmente más citados del mundo, el GPT-3 de OpenAI, procesa la entrada utilizando 175.000 millones de parámetros antes de emitir un resultado. Para un ser humano es casi imposible seguir este proceso y comprender dónde se producen los errores", afirma Jonas Fischer, que actualmente es investigador postdoctoral en la Universidad de Harvard. El estado anterior de la técnica consistía en analizar el resultado de un algoritmo de aprendizaje automático en busca de errores y enumerarlos uno por uno. A continuación, los expertos debían encontrar patrones en los conjuntos de datos, que podían contener fácilmente miles de entradas. En nuestro nuevo software 'PyPremise', utilizamos técnicas de minería de datos para buscar automáticamente patrones específicos en estos conjuntos de datos de errores y agruparlos al final en "categorías de errores" comprensibles. Así, en lugar de enumerar cada error individualmente, nuestro software es capaz de resumir los errores en un nivel más abstracto y hacer afirmaciones como: 'Su algoritmo ML tiene problemas con las formulaciones que contienen la pregunta 'Cuánto''. Esto se deduce de los resultados incorrectos en los casos X, Y y Z", explica Michael Hedderich.
Los investigadores de Saarbrücken probaron su software con conjuntos de datos sintéticos y reales. En el proceso, pudieron demostrar que su método se adapta a conjuntos de datos muy grandes con muchas propiedades diferentes de los puntos de datos individuales y ofrece resultados fiables. "La información así obtenida sobre los puntos débiles de un algoritmo de aprendizaje automático puede ser utilizada por los operadores para revisar sus datos de entrenamiento, por ejemplo, y corregir así los errores del sistema", explica Jonas Fischer. En principio, la herramienta informática desarrollada por los dos informáticos sólo se aplica a algoritmos del ámbito del procesamiento del lenguaje natural. Sin embargo, uno de sus objetivos es ampliar la herramienta para que pueda aplicarse también a otros ámbitos.
Michael Hedderich es informático y trabaja en la Universidad de Cornell y en el grupo de investigación "Sistemas de lenguaje hablado" del profesor de lingüística computacional Dietrich Klakow, de la Universidad del Sarre. Jonas Fischer se doctoró en la Universidad del Sarre el verano pasado, tras haber realizado su doctorado en el Instituto Max Planck de Informática bajo la supervisión del profesor Jilles Vreeken, del Centro Helmholtz de Seguridad de la Información CISPA. Jonas es ahora investigador postdoctoral en la Universidad de Harvard. Los investigadores presentaron por primera vez los fundamentos científicos del software en julio de 2022 en la "International Conference on Machine Learning (ICML)", una de las conferencias más importantes y prestigiosas del mundo en este campo en la que, por lo general, solo se acepta la presentación de una quinta parte de los trabajos científicos enviados.
Articulos Electrónica Relacionados
- Celdas solares flexibles basad... La energía solar, como una fuente inagotable, limpia y renovable, se perfila como una solución crucial para satisfacer la creciente demanda energética a nivel g...
- Avances y desarrollos comercia... El anuncio realizado por Toyota de que había logrado un "gran avance tecnológico" para resolver los problemas de durabilidad y "una solución para los materiales...
- Optoelectrónica, Sensores / Ac... En 2018, una bolsa mixta de precios más altos, escasez y nuevas aplicaciones de imagen está aumentando las ventas totales de O-S-D en un 11% y se ...
- El cargador tipo C reinará en ... El pasado martes, 7 de junio, el Parlamento Europeo y el Consejo llegaron a un acuerdo político para exigir, de forma obligatoria, que los dispositivos electrón...
- Ingenieros del MIT diseñan "es... Nuestros músculos son los actuadores perfectos de la naturaleza: dispositivos que transforman la energía en movimiento. Por su tamaño, las fibras musculares son...
- Aprobadas las ayudas para impl... El Consejo de Ministros, partiendo de la propuesta del Ministerio para la Transición Ecológica y el Reto Demográfico (MITECO), ha aprobado el pasado martes 29 d...
- Propulsor eléctrico para camio... En 2021, Nikola Motor Company lanzará al mercado el Nikola One and Two, una línea de camiones de hidrógeno de clase 8 que ofrecerá m...
- Avances de las baterías de gra... Utilizar el grafeno para mejorar el rendimiento de los dispositivos de almacenamiento de energía ha sido un objetivo clave desde que se aisló el material 2D. Ta...
- El proyecto GRAPHOS investiga ... La colaboración público-privada entre empresas españolas, Centros Tecnológico y Organismos de Investigación, ha permitido pon...
- Impresión 3D de pilas de combu... Las celdas de combustible capaces de convertir hidrógeno en electricidad están llamadas a desempeñar un papel importante en la transición energética hacia un fu...
- El proyecto EROS desarrolla nu... El sector del transporte es actualmente el mayor emisor de gases de efecto invernadero, seguido de la industria y de la generación de electricidad. En este cont...
- Materiales para electrolizador... El hidrógeno verde está cada vez más reconocido como una materia prima industrial limpia y el vector energético del futuro. El electrolizador de agua es fundame...