Sistema distribuido de IA generativa MIC-733-AO para acelerar el desarrollo de la IA generativa
Advantech anuncia la demostración de IA generativa con el MIC-733-AO de Advantech, que se basa en NVIDIA® Jetson AGX Orin™. Los modelos de IA generativa del laboratorio Jetson AI ofrecen un modelo de IA fundacional y gratuito a medida que permite reducir el tiempo de desarrollo con el sistema distribuido de IA generativa MIC-733-AO.
El sistema distribuido de IA generativa MIC-733-AO de Advantech, que es compatible con los modelos de IA generativa de NVIDIA del laboratorio Jetson AI, ahora ejecuta modelos LLM (large language models) y VLM (vision language model), así como transformadores de visión (ViT), generación de imágenes y Llamaspeak distribuidas, todo ello gracias a su NVIDIA® Jetson AGX Orin™. Las funciones de la plataforma abarcan varias capas, como procesamiento acelerado, software vital de IA y modelos previamente entrenados, por lo que facilitan la creación, la adaptación y el despliegue de modelos de IA generativa apropiados para varias aplicaciones y ubicaciones.
Con los modelos de IA generativa del laboratorio Jetson AI, los desarrolladores pueden aprovechar la técnica RAG (retrieval-augmented generation) para conectar los modelos LLM y VLM a la base de conocimientos de una empresa. Este planteamiento acaba con la necesidad del entrenamiento tradicional de modelos de IA y permite unas interacciones conversacionales sencillas con el sistema para obtener inferencias de IA, acortando así de modo significativo el tiempo de desarrollo.
El MIC-733-AO de Advantech proporciona un elevado rendimiento de IA e incorpora diversos interfaces de vídeo, como cámaras IP, cámaras industriales USB/gigE, cámaras GMSL y LiDAR, entre otros, permitiendo así el funcionamiento de un modelo distribuido de IA generativa. Su excepcional diseño térmico previene fallos debidos al calor, incluso cuando el NVIDIA® Jetson AGX Orin™ funciona a su máxima capacidad.
La IA generativa está revolucionando la interacción entre personas y ordenadores al crear contenido nuevo a partir de varias entradas y salidas, como texto e imágenes. La evolución de la demanda, de la nube a posiciones distribuidas de IA generativa, es ideal para entornos que exijan una respuesta muy rápida y baja latencia.
La IA generativa y distribuida ofrece varias ventajas respecto a las soluciones basadas en la nube:
Respuesta inmediata: Los sistemas informáticos distribuidos, que integran fuentes de datos como cámaras y sensores, permiten respuestas rápidas de IA generativa sin los retardos que caracterizan a las conexiones con la nube.
Seguridad de la información: Los datos permanecen dentro del sistema distribuido, por lo que evitan los riesgos de ciberseguridad que caracterizan a la transmisión de datos con la nube.
Conexión estable a la red: El sistema distribuido, que puede funcionar sin una red inalámbrica, almacena los datos localmente hasta que se restaura la conexión a la red, a diferencia de la IA basada en la nube que deja de funcionar sin una red.
Bajos costes de transmisión: La IA distribuida no tiene costes de transmisión si no requiere comunicación con el backend y solo necesita transmisión con un pequeño ancho de banda, la cual es más rentable que los costes para un gran ancho de banda de las conexiones con la nube.
Esta dirección de correo electrónico está siendo protegida contra los robots de spam. Necesita tener JavaScript habilitado para poder verlo.
Articulos Electrónica Relacionados
- Rack PC industrial Simatic IPC... El PC industrial Simatic IPC547G de Siemens amplía la gama de Rack PC estándar en formato de 19". El nuevo y potente IPC, con gran capacidad de pr...
- Pantalla tactil XP40 de 7 pulg... Vector Motor Control Ibérica presenta el panel táctil XP40 de LS Industrial Systems (LSIS) de 7” , con pantalla TFT LCD retroiluminada de alto contraste y...
- Controlador TFT basado en Rasp... Distec presenta un nuevo miembro a la familia de controladores Artista TFT: Artista-IoT para Industria 4.0 e Internet de Cosas (IoT). Este nuevo controlador TFT...
- Programadores Universal Flash ... DediProg Technology presenta sus programadores Universal Flash Storage (UFS) para ingeniería y producción masiva de alto volumen. Los nuevos NuPro...
- Pantallas capacitivas de senso... Mouser Electronics, Inc. tiene disponibles las pantallas capacitivas de sensor táctil de la serie CTH de VCC.Combinando un CI sensor tátcil integr...
- Crimpadora con matriz giratori... La nueva herramienta Crimpfox DUO 10 de Phoenix Contact es apta para un empleo flexible, ya que admite el crimpado frontal o lateral de las punteras. Basta...
- Ordenador industrial en format... IRIS BOX PC es una familia de ordenadores industriales compactos de última generación basada en arquitectura ARM y las tecnologías má...
- Unidades de estado sólido y al... Mouser Electronics, Inc. ofrece unidades de estado sólido (SSD) Intel de alto rendimiento que ofrece un rendimiento mejorado, mayor fiabilidad y menores costes ...
- Pantallas para dispositivos de... ELECTRONIC ASSEMBLY ha lanzado una familia de productos EA DOG diseñada para aplicaciones portátiles de bajo consumo. Todos funcionan a 3.3 V como estándar y re...
- Módulos TOBY-R202 y TOBY-R200 ... u-blox presenta los primeros módulos LTE Cat 1 con voz con soporte LTE (VoLTE), certificados para redes celulares AT&T. Los módulos TOBY-R202 ...
- Pantalla de señalización digit... Shuttle amplía su cartera de productos para mercados verticales con un display de señalización digital en forma de barra. Tras la denominación D230 se esconde u...
- Pantalla OLED alfanumérico dis... Electronic Assembly ha añadido el EA W202 XDLG a su gama de pantallas alfanuméricas de alta calidad. La tecnología tiene la ventaja de alto contraste para una b...