Nos negócios, isso se torna uma IA local que pode ser acessada remotamente por endpoints autorizados (você, seu iPhone, os dispositivos de seus funcionários). A beleza desse arranjo é que quaisquer dados que você compartilhe ou solicitações que você possa fazer serão tratados apenas pelos dispositivos e software que você controla.
Como pode funcionar
Você pode estar executando um modelo de linguagem grande (LLM) Llama de código aberto para analisar seus documentos e bancos de dados de negócios – combinados com dados (privados) encontrados na web – para dar aos seus agentes de campo acesso a análises atualizadas relevantes para eles.
Neste modelo, você pode ter alguns Macs com muita memória (até mesmo um M1 Max Mac Studio, que você pode adquirir de segunda mão por cerca de US$ 1.000) hospedados com segurança em seus escritórios, com acesso gerenciado por sua escolha de soluções de acesso remoto seguras e suas próprias ferramentas de perfil de segurança de endpoint/MDM. Você pode usar a estrutura de ML da Apple, MLX, instalando os modelos de sua escolha ou recorrer a outras soluções, incluindo Ollama.
Fonte: Computer World




