Cargando...
Cargando...
¡Bienvenido a nuestra web!
Encuentra todo lo que necesitas sobre el mundo tecnológico.
23 Mayo, 2024
Estimados amigos y clientes de DMI.
Hoy queremos hablar sobre lo último de AMD así como su innovador enfoque en la utilización de inteligencia artificial (IA). Su estrategia está centrada en habilitar su ecosistema con una amplia cartera de motores de computación para entrenamiento e inferencia, capacidades de software abiertas y comprobadas, y en fomentar el ecosistema de IA a través de la co-innovación.
Es decir, un foco total en habilitar la próxima generación de modelos de IA para todos y hacer que los beneficios de la IA sean omnipresentes.
Y todo esto se resumen con el reciente lanzamiento del modelo Llama 3 de Meta. Llama 3 es el modelo de código abierto más capaz disponible hasta la fecha por parte de Meta (Facebook, Instagram y WhatasApp), con resultados sólidos en los benchmarks HumanEval, GPQA, GSM-8K, MATH y MMLU. Viene en versiones de 8 mil millones y 70 mil millones de parámetros, donde la primera es ideal para casos de uso en clientes y la última para más casos de uso en centros de datos y en la nube.
Pero, ¿qué es esto de LLAMA?
LLaMA es el acrónimo de “Large Language Model Meta AI” y que es nombre con el que Meta a bautizado a su modelo de lenguaje por Inteligencia Artificial. Es decir, el competidor que Meta presenta contra GPT-4 o Google Gemini.
LLaMA 3 es la última versión presentada este mes de abril del 2024 y que si bien Facebook no pensaba llevar este modelo a los usuarios finales y dejarlo solo para “investigadores”, se empieza a oír de que lo pueden llevar a sus aplicaciones.
LLaMA utiliza para su desarrollo una "licencia comunitaria" con lo que ello implica; es parecido al Open Source (Meta lo publicita como tal), pero realmente es un poco más cerrado.
¿Y cómo te afecta esto a ti?
Buenas noticias. Si usas u ofreces un equipo con procesador Ryzen™ AI o tarjetas gráficas de la serie AMD Radeon™ 7000 incluirás este potencial que ofrece Llama 3 de manera completa y sin necesidad de habilidades de programación.
Aclaremos un poco algunos conceptos:
Ryzen™ AI se define como la combinación de un motor de IA dedicado, un motor gráfico AMD Radeon™ y núcleos de procesador Ryzen que habilitan capacidades de IA. Se requiere la habilitación por parte de OEM e ISV, y ciertas características de IA pueden no estar aún optimizadas para los procesadores Ryzen AI. Ryzen AI es compatible con:
- los procesadores AMD Ryzen de las series 7040 y 8040, excepto los procesadores Ryzen 5 7540U, Ryzen 5 8540U, Ryzen 3 7440U y Ryzen 3 8440U;
- todos los procesadores de escritorio AMD Ryzen de la serie 8000G, excepto los Ryzen 5 8500G/GE y Ryzen 3 8300G/GE.
Las tarjetas gráficas de las series Radeon™ RX 6000 y RX 7000 (y modelos posteriores) no están diseñadas, comercializadas ni recomendadas para uso en centros de datos. Seguro que no es este tu caso, pero tenlo en cuenta porque su uso en un entorno de centro de datos puede afectar negativamente la manejabilidad, eficiencia, confiabilidad y/o rendimiento.
Los procesadores AMD Ryzen™ Mobile de las series 7040 y 8040 cuentan con una Unidad de Procesamiento Neuronal (NPU) que está diseñada explícitamente para manejar cargas de trabajo emergentes de IA. Con hasta 16 TOPs, la NPU permite al usuario ejecutar cargas de trabajo de IA con la máxima eficiencia energética. Las APUs AMD Ryzen™ AI también incluyen la CPU y la iGPU, que se utilizan para manejar tareas bajo demanda. Mira este video para aprender más sobre las PCs AMD Ryzen™ AI.
¿Y cómo se trabaja con todo esto?
Pues el objetivo que perseguimos en este artículo, es demostrarte como ejecutar este modelo “Meta’s Llama 3 Instruct” de 8 mil millones de parámetros con tu hardware AMD compatible con ello.
Descarga la versión adecuada de LM Studio
- Para los procesadores AMD Ryzen™: LM Studio - Windows
- Para las gráficas de la serie AMD Radeon RX7000: LM Studio – ROCm(TM) technical preview
Ejecuta el archivo y haz clic en el botón "Download" en la tarjeta “Llama 3 – 8B Instruct”.
Una vez descargado, haz clic en el ícono de chat en el lado izquierdo de la pantalla.
Selecciona Llama 3 de la lista desplegable en la parte superior central.
Selecciona "Accept New System Prompt" cuando te aparezca.
Si estás utilizando un equipo con IA basada en AMD Ryzen™, ¡ya está listo!
Sin embargo, si trabajas con tarjetas gráficas de la serie AMD Radeon™ 7000, te quedan un par de sencillos pasos extra
Haz clic en "Advanced Configuration" en el lado derecho.
A por el último paso, ligeros ajustes del hardware. Desplázate hacia abajo hasta que veas "Hardware Settings". Asegúrate de que "GPU Offload" esté seleccionado y que el control deslizante esté completamente a la derecha (Max). Haz clic en "Reload model to apply configuration" si se te solicita.
¡Terminaste! Ya puedes arrancar a trabajar con el nuevo chatbot Llama 3 de Meta.
Por último, un mensaje que os quiere transmitir AMD: “estamos comprometidos con el avance de la IA, haciendo que los beneficios de la IA sean omnipresentes. Los equipos con IA de AMD permiten a todos beneficiarse del crecimiento de las aplicaciones de IA para consumidores.”
Más información sobre AMD Ryzen AI.
Y hasta aquí este artículo que esperamos os resulte interesante.
Os recordamos que estamos a vuestra disposición en nuestras redes sociales como Linkedin, que podéis comprar todo el surtido AMD (y mucho más) en nuestra web www.dmi.es donde tenéis también un espacio de promociones donde aprovechar grandes ofertas, y por supuesto si tienes cualquier duda o necesidad especial, podrás contactar con tu comercial.
Hasta pronto.
