Supervisão humana obrigatória (S)

Definição normativa

A inteligência artificial poderá atuar de forma assistiva ou agêntica, mas as decisões críticas de negócio, arquitetura, segurança, dados, privacidade, conformidade e implantação deverão permanecer submetidas à supervisão humana, exercida por papeis específicos definidos na GTI (Governança de TI).

Origem conceitual

Conceito derivado de: OECD AI Principle 1.5 — Accountability e Supervisão Humana · NIST AI RMF — GOVERN 1.2 (Human-in-the-Loop e Human-over-the-Loop)

Implicações práticas

Os gates de promoção e a revisão de Pull Request são pontos típicos em que o Validador Técnico e o Validador de Negócio exercem decisão explícita; a documentação de evidências em 04-evidencias/ comprova a supervisão para auditoria.

Ligações

• Papéis de Supervisão Humana
• CI/CD — Operacionalização (IMP)
• PDP — Proteção de Dados — quando decisões envolvem dado pessoal