window.ai - ejecuta IA localmente en tu navegador

La última version de Google Chrome Canary esta incorporando una función bastante interesante: window.ai

Lo que nos ofrece la capacidad de ejecutar IA directamente en nuestro ordenador, usando Gemini Nano de Google localmente.

Vamos a ver como podemos hacer funcionar esto, te dejo aquí un vídeo donde te explico como:

Pasos para usar window.ai

Es muy sencillo!

Paso 1: Descargar Chrome Canary

Ve a la web oficial de Chrome Canary y descargarlo e instalalo.

Paso 2: Activa “Prompt API for Gemini Nano”

Abre el navegador Chrome Canary y escribe en la barra de navegación chrome://flags/

Luego busca algo como “prompt api” y te saldrá la opción “Prompt API for Gemini Nano”.

Actívalo.

Paso 3: Activa “Enables optimization guide on device”

Necesitas activar una segunda cosa.

Ahora puedes buscar algo como “optimization guide on”

Te saldrá la opcion de “Enables optimization guide on device”. Activalo con la opción que dice “Enable ByPassPerfRequirement“.

Paso 4: Instala Gemini Nano

Para terminar necesitamos tener instalado Gemini Nano en nuestro dispositivo.

Hay que tener en cuenta que el archivo pesa 1.5GB, asegurate de tener espacio, y cuidado si vas sobre datos móviles.

Tienes que irte a chrome://components/.

Haz ctrl + F para que se abra la barra de búsqueda, y pon “Optimization Guide“.

Veras una opción que pone “Optimization Guide On Device Model”

Haz click sobre el botón de “check for update” y se instalará.

Paso 5: LISTO!

Ya solo tienes que cerrar y volver abrir el navegador Chrome Canary para que se apliquen los efectos.

Usando windows.ai

Para comprobar que todo funciona correctamente puedes abrir la consola del navegador y escribir window dentro de las opciones de la consola deberia de salir la opción de ai.

Crea la sesión

Con la siguiente linea de código puedes crear la sesión:

const chatSession = await window.ai.createTextSession()

Ahora podemos hacerle peticiones a esa sesión.

Obteniendo respuestas

Usaremos el método .prompt de nuestro objeto chatSession.

const result = await chatSession.prompt("hola, ¿como estás?")

Dependiendo de tu hardware tardará más o menos en darte una respuesta.

Obteniendo la respuesta

Podemos pintar por consola la respuesta:

console.log(result)

Y obtendremos un string con la respuesta, tipo:

Hola, estoy bien, ¿en que puedo ayudarte?

Y ya la lo tenemos! Ejecumos IA en nuestro navegador!