Tether permite entrenar IA en móviles

La empresa Tether, conocida principalmente por la emisión de la stablecoin USDT, ha anunciado el lanzamiento de una nueva versión de su framework QVAC Fabric este 17 de marzo. Esta herramienta técnica representa un avance significativo en la informática de borde (edge computing), al permitir el ajuste fino y la ejecución de modelos de inteligencia artificial (IA) con miles de millones de parámetros directamente en teléfonos inteligentes y ordenadores con hardware de consumo.

El desarrollo se basa en la arquitectura BitNet de Microsoft. Esta propuesta técnica simplifica el funcionamiento de los modelos de IA reduciendo sus valores numéricos únicamente a tres opciones: -1, 0 y 1. Este proceso, denominado cuantización de un bit, disminuye drásticamente el peso de los archivos y la potencia de procesamiento necesaria para manejarlos.

Rendimiento y optimización de recursos

QVAC Fabric actúa como el motor de gestión de estos modelos, habilitando el uso de la unidad de procesamiento gráfico (GPU) de los teléfonos mediante APIs como Vulkan y Metal. Según las pruebas realizadas por el equipo de Tether, el sistema es capaz de ajustar modelos de hasta 13.000 millones de parámetros en un iPhone 16.

La eficiencia del sistema es uno de sus puntos fuertes. La tecnología logra reducir el uso de memoria RAM hasta en un 90% en comparación con los modelos de precisión completa. En dispositivos de gama alta como el Samsung S25, el ajuste fino de un modelo puede completarse en menos de diez minutos, lo que marca un precedente en la disponibilidad de herramientas de IA local.

Privacidad y código abierto

Un aspecto crítico de esta implementación es la privacidad del usuario. Al procesar los datos localmente, la información sensible utilizada para entrenar o personalizar la IA no sale del dispositivo, mitigando riesgos de filtración de datos.

Para fomentar la adopción y transparencia, Tether ha puesto el software a disposición como código abierto en GitHub. Esto permite que cualquier desarrollador acceda a los binarios y al código fuente para integrar estas capacidades en sus propias aplicaciones de forma independiente.

Visión estratégica de la descentralización

Paolo Ardoino, CEO de Tether, ha contextualizado el lanzamiento dentro de una visión más amplia sobre la infraestructura tecnológica. Según Ardoino, cuando el entrenamiento de grandes modelos de lenguaje depende exclusivamente de infraestructuras centralizadas, se crean cuellos de botella que estancan la innovación y generan fragilidad en el ecosistema.

Al demostrar que es posible realizar un entrenamiento significativo en hardware de consumo, QVAC busca probar que la IA avanzada puede ser descentralizada, evitando la dependencia de grandes servidores industriales y democratizando el acceso a estas potentes herramientas de cómputo.

Fuente: Tether

Comparte esta noticia, elige tu plataforma!

Leave A Comment