Phi-3 da Microsoft: SLMs poderosos e executados com Python
Phi-3 da Microsoft é o mais recente modelo pequeno de linguagem (SLM) da empresa. A nova família de SLMs faz parte dos avanços da Microsoft no desenvolvimento de modelos de linguagem menores. A mesma tendência é vista em outros big playes da área como Google e OpenIA. Além de serem mais baratos, os SLMs prometem aumentar o leque de aplicações e acessibilidade às novas tecnologias de IA.
O novo Phi-3 foi lançado há poucos meses e está disponível para uso na plataforma Azure. Ele também é facilmente encontrado na plataforma Hugging Face e através da ferramenta Ollama para uso com códigos Python.
Neste post, usaremos a ferramente Ollama para demonstrar como o novo modelo da Microsoft pode ser facilmente usado em códigos Python.
Phi-3 com Python e Ollama
Primeiro, instale Ollama para seu sistema operacional se você ainda não tem a ferramenta instalada (veja as instruções aqui). Depois, faça a instalação do pacote para Python:
pip install ollama
Em seguida, baixe o modelo. Existem várias versões do Phi-3 disponíveis. Usaremos o modelo mini com 3B de parâmetros e contexto de 4K. Essa versão é a mais adequada para ser executada localmente. Para baixar o modelo, digite o comando no terminal:
ollama pull phi3:mini
Phi-3 com códigos Python
Para usar o modelo em um código Python, importe a biblioteca ollama, inicie um cliente e defina um prompt. Phi-3 é um modelo multilinguístico perfeitamente capaz de responder aos prompts em português.
import ollama
# inicia o cliente
client = ollama.Client()
# define um prompt
prompt = "Explique em cerca de 100 palavras o que é IA."
Em seguida, o prompt precisa ser fornecido ao modelo. Insira o trecho abaixo no seu código.
response = client.generate(model="phi3:mini", prompt=prompt)
Depois, basta imprimir a resposta ao prompt gerada pelo modelo.
# imprime a resposta
print("Resposta do Phi-3:", response['response'])
Salve e execute o arquivo e a resposta gerada pelo SLM será impressa diretamente no terminal. Veja abaixo a resposta obtida para o prompt enviado ao modelo. Ela claramente demonstra que o Phi-3 da Microsoft é um modelo bastante promissor.
Resposta do Phi-3: IA, ou Inteligência Artificial, refere-se a sistemas capazes de perceber e processar informações semelhantes ao funcionamento do cérebro humano para simular inteligência autônoma. Eles podem aprender, interpretar dados complexos, tomar decisões baseadas em algoritmos avançados ou lógica própriesa e melhorar continuamente à medida que recebem novos dados. A IA tem aplicações diversas na realidade virtual para jogos, assistência pessoal através de robôs inteligentes e sistemas de diagnostico médico mais preciso. Seu desenvolvimento é uma das áreas focadas da ciência computacional com o potencial significativo de transformar vários setores ao longo do futuro próximo.
Interações usando contextos
A versão Phi-3 mini possui janela de contexto de 4K. A inserção de contextos é uma ótima forma de obter conteúdos menos genéricos e mais direcionados para as finalidades desejadas. Para definir um contexto, o prompt usado acima precisa ser ligeiramente modificado. O contexto precisa ser definido em conjunto com uma pergunta ou instrução. Depois, ambos são inseridos no prompt como ilustrado no trecho abaixo.
# prompt com contexto
question = "Explique em cerca de 100 palavras o que é IA."
context = "Você é um assistente de IA útil que explica IA para crianças de menos de dez anos."
prompt = f"Context: {context}\n\nQuestion: {question}"
Portanto, basta substituir esse prompt no código definido anteriormente para usar um prompt com contexto. Veja o exemplo do texto gerado para o prompt fornecido. Embora a instrução tenha sido a mesma utilizada anteriormente, a diferença nos textos gerados é bastante evidente.
Resposta do Phi-3: Imagine uma amiga eletrônica que aprende como fazemos coisas e pode ajudar a resolver problemas por nós, mas sem nosso esforço direto! Isso é chamada de Inteligência Artificial (IA). É um tipo especial de computador ou robô criado para imitar as funções do cérebro humano. Usamos IA em muitos lugares diferentes; por exemplo, aplicativos que recomendam filmes online e assistentes virtuais como o Google Home! Embora a IA pareça muito inteligente à primeira vista, é criada pelas pessoas projetando algoritmos ou instruções para ela seguir. Com cada experiência nova, a IA aprende mais sobre as coisas que fazemos diariamente e pode ajudar nossas vidas de formas incríveis!
Com esse código simples, você já pode aproveitar todo potencial do Phi-3 em seu computador local e gratuitamente.
