DeepSeek (chino: 深度求索; pinyin: Shēndù Qiúsuǒ; en español: 'Búsqueda Profunda') es una empresa china de inteligencia artificial que desarrolla modelos extensos de lenguaje (LLM) de código abierto. Tiene sede en Hangzhou, Zhejiang, es propiedad y está financiada exclusivamente por el fondo de cobertura chino High-Flyer, cuyo cofundador, Liang Wenfeng, estableció la empresa en 2023 y se desempeña como su director ejecutivo.
El modelo DeepSeek-R1 proporciona respuestas comparables a otros LLM contemporáneos, como GPT-4o y o1 de OpenAI,[1] a pesar de estar entrenado a un costo significativamente menor (se estima en 6 millones de dólares en comparación con los 100 millones de dólares para GPT-4 de OpenAI en 2023)[2] y requiere una décima parte de la potencia informática de un LLM comparable.[2][3][4][5]
(Fuente Wikipedia)
(Fuente Wikipedia)
Una de las ventajas de esta IA es que podemos instalarla en local y, por lo tanto, configurarlo con los parámetros de seguridad que consideremos oportunos. Vamos a instalarlo en un ubuntu sin GPU. Eso nos va a requerir más CPU para poder procesar los modelos, pero como prueba de concepto nos va a servir. Para facilitar la instalación, usaremos Ollama, que se trata de un cliente de modelos de inteligencia artificial, por lo que es la base sobre la que luego instalar una IA que quieras utilizar.
Actualicemos el sistema
Como siempre, vamos a empezar dejando nuestro sistema actualizado:
sudo apt update && sudo apt upgrade -y
Instalamos python y GIT
Son necesarias para poder instalar con Ollama nuestro DeepSeek.
sudo apt install python3 python3-pip git -y
Verificamos la instalación:
python3 --version ; pip3 --version ; git --version
Instalamos Ollama
curl -fsSL https://ollama.com/install.sh | sh ; sudo systemctl start ollama ; sudo systemctl enable ollama
Veremos que sinó tenemos GPU nos pone lo siguiente:
Ejecutamos Ollama
Vamos a ejecutar, por ejemplo, el modelo destilado 32b:
ollama run deepseek-r1:32b
Este modelo vereis que descarga unas 19G:
Una vez descargado, estaremos en el prompt para hacer consultas. Para salir de prompt hace falta usar la combinación Ctrl+D
Podemos comprobar los modelos descargados:
usuari@server:~$ ollama list
NAME ID SIZE MODIFIED
deepseek-r1:32b 38056bbcbb2d 19 GB 20 minutes ago
No hay comentarios:
Publicar un comentario