Los expertos ya ponen fecha al "límite de la IA" y citan al año 2032 como el punto de inflexión para el verdadero alcance de esta tecnología

El sistema de entrenamiento tradicional ya no provoca saltos de rendimiento tan ambiciosos como antes

Ia Evolucion
Facebook Twitter Flipboard E-mail
abelardo-gonzalez

Abelardo González

Editor - Tech

No existe una sola vertiente tecnológica que esté a la altura de lo que supone la inteligencia artificial. Gracias a la popularidad de la misma, los mejores modelos de lenguaje no son capaces de entender qué sucede en su entorno, los expertos han llevado la cuestión al siguiente tramo: "¿qué pasaría si la IA no siguiera mejorando?".

Como señala Ars Technica, los expertos temen que los modelos de lenguaje actuales estén llegando a un punto de estancamiento en sus capacidades a raíz de las limitaciones de los métodos de entrenamiento tradicionales. Un ejemplo podría ser Orion, un modelo en desarrollo por OpenAI que cuenta con saltos de rendimiento cada vez menos impresionantes. Y, según indica la noticia original, una de las razones es la falta de nuevos datos textuales públicos y de calidad en Internet, dado que esto limita el potencial de entrenamiento de los modelos grandes de lenguaje.

Desafíos en la capacidad de razonamiento

De esta forma, tanto OpenAI como otras compañías han comenzado a entrenar modelos con datos sintéticos (generados por otros modelos) para intentar superar esta limitación, pero han dado pie a preocupaciones sobre la posible degradación de contexto que generan este tipo de datos. Así, aunque algunos modelos han mejorado su razonamiento, investigaciones recientes demuestran que aún son susceptibles a errores provocados por pistas engañosas, un aspecto que limita su confiabilidad en tareas de razonamiento profundo.

Por ello, los investigadores de Epoch AI creen que la mayor parte del texto público útil para entrenamiento se agotará entre 2026 y 2032, haciendo que el entrenamiento tradicional se vuelva insostenible. Como respuesta, algunos investigadores están evaluando métodos de destilación de conocimiento en los que personal cualificado entrena a la IA con datos más refinados y, a su vez, de mayor calidad. Además, otra posible solución sería desarrollar modelos de lenguaje especializados en áreas o tareas específicas, pero aún deben comprobar el éxito de esta estrategia.

En 3DJuegos | Microsoft se está tomando muy en serio en integrar la inteligencia artificial en Xbox, y ya ha dado el primer paso para ello

En 3DJuegos | Científicos crean una IA capaz de crear otras IA sin supervisión humana y plantean un problema ético sin precedentes

Imagen principal de Possessed Photography (Unsplash)