Fotomontaje de Ollama El Androide Libre
Cómo instalar Ollama en un PC o Mac: el programa gratuito que permite usar DeepSeek R1 y otros modelos de IA sin internet
Gracias a la gran eficiencia en los recursos que exigen los submodelos de DeepSeek R1, Ollama se ha convertido en un gran aliado para probar el chatbot.
Más información: He instalado DeepSeek R1 en un móvil Android: los pasos a seguir y requisitos para tener a mano la revolucionaria IA
En las pruebas llevadas a cabo por EL ESPAÑOL - El Androide Libre para probar la IA DeepSeek R1 en un portátil apareció un programa que se está convirtiendo en la llave para instalar distintos modelos de lenguaje mayores y así realizar consultas a sus chatbots con la seguridad de que todos los mensajes se mantendrán de forma local, asegurando su privacidad.
Ollana es una herramienta o programa gratuito que se puede instalar tanto en Windows como en un Mac al igual que GNU / Linux, así que no existen casi límites para poder descargar cualquier modelo de lenguaje mayor al PC y así hacer las pruebas pertinentes.
Hay que tomar un punto muy en cuenta y es que las capacidades de una IA están siempre supeditadas al hardware del equipo, a excepción de DeepSeek R1 que al ser tan eficiente, puede incluso instalarse en un móvil Android (aunque siempre con sus limitaciones en la lentidud de las respuestas, pero se puede decir que es un primer y gran paso).
La variedad de modelos 'destilados' de DeepSeek R1 que han sido lanzados en estos días permiten más flexibilidad a la hora de instalar este modelo de lenguaje mayor, aunque el modelo base, debido a su magnitud y exigencia de mayores recursos, necesitaría un sistema que, incluso con uno Gaming de especificaciones bien altas, sería más complejo de instalar.
Pero no quita que algunos de sus submodelos, como las versiones 1.5 B, 8 B, 14B y otras, permitan a un usuario con un buen Mac o un PC con una GPU potente (si es una de las últimas 5090 o las anteriores RTX 4070, 4080 o 4090, mejor que mejor), pueda tener a mano un chatbot de forma local que muestra su "Pensamiento Profundo" en las respuestas y que ha sido capaz de superar a GPT-4o en algunos benchmarks.
Consulta a la IA de DeepSeek El Androide Libre
Es tal la eficiencia de estos modelos de DeepSeek que incluso Microsoft se ha adelantado al resto de gigantes tecnológicos al anunciar ayer mismo que va a desplegar 1.5B Distilled R1 en sus Copilot+ PCs y próximamente los submodelos 7B y 14B Distilled para aprovecharse de sus capacidades.
Aparte de poder instalar el modelo de lenguaje mayor, hay otra gran virtud y es que no se necesita una conexión a Internet para hacer consultas al chatbot. Al igual que al no estar conectado la censura que podría atribuírsele desaparece por completo.
El Androide Libre
Otro punto importante es que toda la comunicación con el chatbot se hará a través del símbolo de sistema en Windows o la terminal en el PC. Hay alternativas para utilizar el modelo de lenguaje mayor cargado como sería Chatbox AI, una interfaz de escritorio open source que permite también descargar los datos de forma local en Mac y Windows.
Cómo descargar y usar Ollama
Lo primero es dirigirse a la web de Ollama para descargarse la aplicación en el ordenador, ya sea un Mac o un PC con Windows o Linux. Se inicia y se pasará a la instalación de una forma sencilla al igual que se puede hacer con otro programa en estos sistemas.
Ejecutando el comando en Símbolo de sistema El Androide Libre
Ahora toca abrir símbolo de sistema en el PC para poder operar con Ollama desde el buscador en Windows al teclear su nombre (se recomienda usar los derechos de administrador). Se abre CMD y se teclea directamente esta serie de comandos según el modelo que se quiera (y teniendo en mente probar unos y otros según el hardware):
- Versión 1.5B (la más pequeña): ollama run deepseek-r1:1.5b
- Versión 8B: ollama run deepseek-r1:8b
- Versión 14B: ollama run deepseek-r1:14b
- Versión 32B: ollama run deepseek-r1:32b
- Versión 70B: ollama run deepseek-r1:70b
Una vez que esté cargado el modelo elegido, lo siguiente ya será comunicarse directamente como se haría con su versión web o ChatGPT (se identifica con >>>). Y se vuelve a mencionar que no hay una interfaz que recuerde a la que se usa en sus apps, es todo como más 'sin filtros', pero no quita que es igual de útil.
El 'Pensamiento Profundo' aparecerá sin ningún tipo de etiqueta en cada respuesta y así se vea cómo piensa la IA. Cuando comience a responder en español se sabrá que estará dando ya la respuesta final a la consulta. Otro punto importante: cuando se acaben las consultas, se recomienda cerrar Ollama para no tenerlo cargado en el sistema.
Desde Ollama se pueden buscar más modelos de lenguaje mayor como llama3.3, phi4 y otros tantos y así ir probando, pero el que ha demostrado gran eficacia y menos exisgencia en recursos es el mencionado, justamente el 8B. Y lo dicho, si se cuenta con un hardware mayor, se puede probar otro modelo más eficaz en sus respuestas y en la rapidez que las hace, siendo este un punto bien importante.
