Como criar seu chat AI pessoal | tutorial Meshnet

VPN
1

Como criar seu chat AI pessoal | tutorial Meshnet

2

Olá a todos!

Já quis criar seu próprio chatbot de IA acessível de qualquer lugar no seu telefone? Boas notícias! Você não precisa de habilidades de programação, e é completamente gratuito!

Neste guia, vou orientar você na configuração de um chatbot de IA usando Ollama, Open WebUI e NordVPN Meshnet. Aqui está uma visão geral rápida:

  • Ollama: Uma estrutura de código aberto para executar qualquer modelo de linguagem de código aberto.
  • Open WebUI: Uma interface de chat baseada na web.
  • Meshnet: Permite acesso seguro ao seu assistente de IA de qualquer lugar do planeta.

Antes de Começar

Certifique-se de que Docker e NordVPN estejam instalados e em execução na sua máquina Windows, macOS ou Linux. Se não, confira os links na descrição do vídeo para instruções de configuração.

Guia Passo a Passo:

  1. Abra seu Terminal No Windows, procure por “Terminal” no menu iniciar. Uma vez aberto, digite o seguinte comando e pressione “Enter”: ​docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama​ Se você vê a mensagem “o comando docker não é reconhecido,” isso significa que o Docker não está em execução. Caso contrário, você verá um ID do Docker (uma sequência de letras e números).

  2. Baixe um Modelo de Linguagem Assim que o Docker estiver em execução, use este comando para baixar um modelo de linguagem através do contêiner Ollama. Comece com o modelo Phi3 — é menor e funciona bem na maioria das máquinas. Se seu PC puder suportar, experimente Llama3 da Meta, um dos melhores modelos disponíveis.

    Use o seguinte comando para fazer isso:

    docker exec -it ollama ollama run phi3​

  3. Configure o Open WebUI Após o contêiner Ollama concluir a busca pelo modelo e você ver a mensagem “Sucesso,” digite /bye para fechar a sessão. Em seguida, digite o seguinte comando para configurar o contêiner do Open WebUI.

  4. Acesse seu Chatbot de Qualquer Lugar Abra o aplicativo NordVPN, encontre o Nome Nord ou o IP Meshnet do seu computador, copie-o e cole no seu navegador, seguido de :3000. Faça login (ou crie uma conta, se necessário), e selecione seu modelo de linguagem no menu suspenso.

  5. Use o Chatbot no Seu Celular Para acessá-lo pelo telefone, certifique-se de que o Meshnet esteja ativado e seu telefone consegue ver seu PC. Copie o Nome Nord ou o IP Meshnet do seu computador, cole no navegador do seu telefone com :3000 no final. Faça login, selecione seu modelo e comece a conversar!

Algumas Dicas:

  • O desempenho depende do hardware do seu PC. Se você tiver uma GPU moderna que suporte cargas de trabalho de IA, as respostas serão extremamente rápidas, especialmente com modelos menores. Configurar aceleração GPU é crucial para a velocidade.

É isso! Espero que este guia tenha sido útil. Se você tiver alguma dúvida, sinta-se à vontade para perguntar.

Não se esqueça de dar um upvote nesta postagem se gostou, e feliz construção de chatbot!