No meio da dança das cadeiras ocorrendo no topo da OpenAI, está havendo uma discussão sobre seu novo e ainda secreto projeto, um modelo conhecido como Q*.
Recentemente, apareceram algumas pistas sobre o que pode ser a novidade nesse projeto e por que ele tem sido alvo de preocupações de pessoas da área.
Modelo Q*
Aparentemente, a OpenAI esta desenvolvendo um modelo de inteligência artificial (IA) chamado Q* com capacidades muito mais poderosas do que os modelos atuais.
Segundo notícias recentes publicadas na mídia (aqui e aqui, por exemplo), o modelo Q* é capaz de resolver problemas básicos de matemática. Essa capacidade ainda não tinha sido vista em modelos de linguagem do tipo LLM e tem gerado preocupações sobre segurança entre os funcionários da empresa. O ritmo de desenvolvimento por trás do sistema alarmou alguns pesquisadores de segurança. A demissão e a reintegração de Altman na OpenAI parece ter relações com essas preocupações. Segundo noticias de vários sites, muitos especialistas estão preocupados com o rápido desenvolvimento dessa IA, que poderia escapar do controle humano.
Vamos ficar de olho nas próximas notícias.
