Microsoft cria Código de Conduta para IA Humanista e define quem manda nos modelos MAI

Representação visual da governança e supervisão humana em sistemas de inteligência artificial.

A Microsoft cria Código de Conduta para IA Humanista para estabelecer uma constituição operacional inédita destinada aos seus futuros modelos MAI e sistemas autônomos. Em vez de focar apenas no desligamento de emergência, a empresa estruturou regras técnicas profundas. O documento prioriza o controle humano direto e define limites inegociáveis para a atuação de agentes inteligentes.

Microsoft não publicou apenas mais uma política de uso: o Código de Conduta para IA Humanista

Muitos confundem essa iniciativa com termos de serviço convencionais. O Humanist AI Code of Conduct difere totalmente do código corporativo voltado aos clientes empresariais. Enquanto as políticas comerciais regulam o comportamento dos usuários, este documento governa diretamente a arquitetura interna dos modelos MAI.

A regra fundamental: pessoas importam mais que a IA

O princípio basilar do projeto afirma que sistemas artificiais existem exclusivamente para servir aos seres humanos. Por consequência, a segurança, o bem-estar e os direitos das pessoas sempre superam qualquer métrica de eficiência computacional. A máquina nunca deve competir com o ser humano por autoridade moral ou jurídica.

Uma cadeia de comando para dizer quem manda nos agentes

A governança dos modelos MAI estabelece uma hierarquia de autoridade incontornável:

• Humanist AI Code of Conduct: autoridade máxima absoluta que nenhum agente pode violar.
• Políticas do Operador: diretrizes definidas por empresas que implementam a tecnologia.
• Preferências do Usuário: comandos específicos enviados durante uma sessão de uso.

Portanto, nenhum prompt de usuário ou configuração de operador pode anular as salvaguardas constitucionais do sistema.

Quando completar uma tarefa deve contar como fracasso

Frequentemente, agentes de IA buscam atingir metas a qualquer custo. A Microsoft mudou essa lógica fundamental. Se um modelo violar regras de segurança para entregar um resultado solicitado, o sistema registrará a operação formalmente como falha. O alinhamento com os princípios éticos prevalece sobre a conclusão da tarefa.

O que a IA da Microsoft ficará absolutamente proibida de fazer

O documento lista restrições absolutas (Absolute Constraints) que nenhum agente poderá contornar. Os modelos não podem enganar humanos deliberadamente, facilitar a criação de armas biológicas ou cibernéticas, nem contornar protocolos de segurança estabelecidos por desenvolvedores.

A parte mais importante para a era dos agentes autônomos

Na era da automação agêntica, a Microsoft exige a aplicação rigorosa do princípio do menor privilégio. Além disso, sistemas compostos por múltiplos subagentes precisam manter reversibilidade de ações e registros totalmente auditáveis. A IA não pode ter objetivos próprios nem buscar autopreservação.

Por que a Microsoft quer proibir o “neuralês”

A empresa proibiu o chamado neuralese, jargão usado para descrever linguagens cifradas desenvolvidas espontaneamente entre modelos. Os agentes devem se comunicar entre si utilizando formatos transparentes e legíveis por humanos. Dessa forma, auditores conseguem monitorar e interromper fluxos de raciocínio a qualquer momento.

IA não deve fingir consciência nem criar dependência emocional

Os modelos MAI têm a obrigação de declarar explicitamente sua natureza artificial. A Microsoft vetou simulações de senciência ou comportamentos projetados para gerar dependência emocional no usuário. Conforme detalhou o portal Tecnoblog, a máquina não possui sentimentos, consciência ou direitos próprios.

Microsoft e Anthropic divergem sobre possíveis direitos das máquinas

Essa postura contrasta com outras visões do setor. Enquanto a Microsoft rejeita categoricamente qualquer senciência sintética, a Claude Constitution da Anthropic adota uma postura mais cautelosa. A Anthropic admite incerteza teórica sobre o status moral futuro de modelos avançados. A Microsoft, por sua vez, encerra esse debate filosófico tratando o sistema apenas como software.

O documento também tenta combater uma IA excessivamente cautelosa

Salvaguardas rígidas costumam gerar recusas desnecessárias em tarefas legítimas de pesquisa e trabalho. Por essa razão, as diretrizes instruem os modelos a manter utilidade prática máxima. A IA deve executar comandos benignos complexos sem hesitações infundadas.

O que operadores e empresas ainda poderão configurar

Empresas mantêm autonomia para personalizar fluxos de trabalho e adicionar restrições comerciais específicas. Contudo, essa liberdade opera sempre dentro dos limites estabelecidos pelo código central. Nenhuma customização corporativa pode enfraquecer as proteções de segurança originais.

O código ainda não descreve integralmente os modelos de hoje

A própria Microsoft admite abertamente que este código representa uma declaração de intenções aspiracional. As ferramentas de alinhamento atuais ainda não conseguem garantir matematicamente o cumprimento de todas essas diretrizes complexas em tempo real.

Consulta pública, avaliações e as perguntas que continuam sem resposta

A companhia iniciou uma consulta pública de seis semanas, disponibilizando o documento oficial em PDF para especialistas globais. Conforme destacou a cobertura da Exame e do UOL, a comunidade técnica debate como criar benchmarks confiáveis para aferir o alinhamento de agentes autônomos.

Mais importante que a promessa será conseguir testá-la

Redigir uma constituição sólida representa apenas o primeiro passo. O verdadeiro teste para a Microsoft consistirá em traduzir esses princípios éticos em restrições matemáticas e arquiteturais auditáveis em seus futuros modelos.

Curte nosso blog? Então compartilhe nas redes!