OpenAI apresentou um novo padrão para IA: como gerir conteúdo pornográfico de forma responsável

Em maio de 2024, a OpenAI revelou um guia detalhado chamado Model Spec, que define os princípios de funcionamento dos sistemas de IA modernos. O documento estabelece a base para como assistentes virtuais, incluindo o ChatGPT, devem comportar-se ao interagir com os utilizadores. Uma abordagem inovadora da empresa para uma questão delicada merece destaque: ela começou oficialmente a explorar formas de gerar de forma responsável conteúdos NSFW em contextos com restrições de idade.

Esta decisão simboliza a evolução na gestão de tecnologias de IA numa fase de desenvolvimento intenso e de adoção massiva.

Os três pilares da filosofia da OpenAI na gestão do comportamento da IA

A fundamentação do Model Spec baseia-se em três princípios-chave. Primeiro, os algoritmos de IA devem fornecer respostas úteis, alinhadas às instruções diretas dos desenvolvedores e dos utilizadores finais. Segundo, esses sistemas devem beneficiar a humanidade, considerando cuidadosamente tanto o impacto positivo quanto os riscos potenciais. Terceiro, o comportamento dos modelos deve refletir os valores corporativos da OpenAI, respeitando as normas sociais e os quadros legais estabelecidos em diferentes jurisdições.

Estes princípios servem de base para instruções específicas dirigidas aos desenvolvedores de aplicações baseadas em IA.

Conteúdo pornográfico e IA: de proibição a uso regulado

A especificação Model Spec inclui uma lista detalhada de normas de conduta para os sistemas de IA. Entre elas, a obrigação de respeitar a hierarquia de comandos, cumprir a legislação de diversos países, proteger os direitos autorais e a privacidade dos cidadãos. Uma restrição específica é que os sistemas não devem fornecer conteúdos NSFW por padrão.

No entanto, é aqui que se revela o elemento inovador da abordagem da OpenAI. A empresa propôs um conceito que permite às empresas e aos utilizadores finais “alternar” o nível de conteúdo gerado pelos modelos de IA. Um dos exemplos mais discutidos dessa flexibilidade é o controlo de conteúdos pornográficos.

De acordo com um comunicado oficial da OpenAI, o laboratório “está a estudar a possibilidade de fornecer de forma segura a funcionalidade de geração de tal conteúdo dentro de limites de idade através da API e da interface do ChatGPT”. Isto significa que utilizadores adultos poderão aceder a esse tipo de conteúdo, se permitido pela legislação local, enquanto menores de idade serão automaticamente protegidos contra esse material.

Prioridades padrão: como a IA deve pensar e agir

O documento também define o comportamento padrão que os assistentes de IA devem demonstrar ao interagir com os utilizadores. Recomenda-se que os sistemas assumam as melhores intenções dos participantes na conversa, façam perguntas de clarificação para melhor compreender a tarefa, respeitem os limites pessoais dos utilizadores e mantenham objetividade na análise de informações.

Adicionalmente, destaca-se a necessidade de evitar incitar ódio, não tentar impor a própria posição e expressar abertamente incerteza quando a IA não tiver certeza da precisão de uma resposta.

Estado atual da implementação: de planos à concretização

Um ponto importante: a nova especificação Model Spec ainda não afeta produtos já lançados pela OpenAI, como o GPT-4 e o DALL-E 3. Esses sistemas continuarão a operar dentro das políticas de uso existentes. A gestora de produto da empresa, Joan Jang, explicou que o Model Spec foi concebido como um documento dinâmico, que será atualizado continuamente e aberto a feedback.

A OpenAI está ativamente a buscar recomendações de uma ampla variedade de partes interessadas: governantes, instituições de autoridade e especialistas em áreas específicas que utilizam ou estudam os serviços da empresa. No entanto, permanecem questões em aberto: quais comentários serão considerados, quem determinará a lista final de alterações necessárias e quando será publicada a segunda versão do documento — ainda sem informações disponíveis.

Esta iniciativa demonstra a ambição da OpenAI de estabelecer um novo padrão na gestão de sistemas de IA, incluindo questões delicadas como a regulação de conteúdos pornográficos, tendo em conta todos os aspetos éticos e legais envolvidos.