A Netflix, uma das principais plataformas de streaming global, tem se posicionado ativamente em relação ao uso da inteligência artificial generativa (IA generativa) na produção de conteúdo. Recentemente, a empresa divulgou um conjunto de diretrizes detalhadas para seus parceiros de produção, delineando as expectativas e os requisitos para a utilização dessas tecnologias emergentes. Esta iniciativa surge após incidentes que destacaram os desafios e as responsabilidades associadas à IA generativa no setor de entretenimento.
Um exemplo notável que precedeu a publicação dessas diretrizes foi a controvérsia envolvendo o documentário de true crime de 2024, What Jennifer Did, dirigido por Jenny Popplewell. A produção enfrentou críticas significativas devido ao aparente uso de imagens geradas por IA em substituição a fotografias de arquivo reais. Este caso específico ilustrou a capacidade da IA generativa de distorcer a realidade, especialmente em contextos onde a veracidade dos fatos é fundamental para o público. A situação sublinhou a necessidade de clareza e responsabilidade na aplicação dessas ferramentas, particularmente em narrativas que buscam apresentar a verdade.
Em resposta a esses desafios e com o objetivo de estabelecer um padrão para a indústria, a Netflix publicou um comunicado em seu hub de suporte para parceiros, o Partner Help Center. Este documento detalha os princípios orientadores da empresa para o uso da IA generativa e especifica as circunstâncias em que as equipes de produção podem empregar essa tecnologia. A plataforma reconhece o potencial transformador da IA generativa, classificando-a como um “valioso auxílio criativo” capaz de facilitar a “geração rápida de mídias novas e criativamente únicas, incluindo vídeo, som, texto e imagem”.
A velocidade com que o campo da IA generativa avança levou a Netflix a considerar essencial a definição de regras claras. A empresa busca garantir que seus parceiros sigam um conjunto de padrões éticos e operacionais ao integrar essas ferramentas em seus fluxos de trabalho. A intenção é equilibrar a inovação tecnológica com a manutenção da integridade do conteúdo e a confiança do público.
Comunicação e Aprovação para o Uso de IA Generativa
A Netflix estabeleceu um requisito fundamental para todos os seus parceiros de produção: a comunicação prévia de qualquer intenção de usar IA generativa. “Para apoiar produções globais e manter o alinhamento com as melhores práticas, esperamos que todos os parceiros de produção compartilhem qualquer uso pretendido de IA Generativa com seu contato Netflix, especialmente à medida que novas ferramentas continuam a surgir com diferentes capacidades e riscos”, afirma o comunicado da empresa. Esta medida visa garantir que a Netflix esteja ciente das tecnologias que estão sendo empregadas em suas produções e possa oferecer orientação adequada.
O processo de aprovação para o uso de IA generativa é escalonado, dependendo do nível de risco associado à aplicação. A Netflix indica que a maioria dos casos de uso de baixo risco, que aderem aos princípios orientadores estabelecidos, provavelmente não exigirá uma revisão legal formal. Isso sugere uma flexibilidade para aplicações que são consideradas auxiliares e que não impactam diretamente os elementos críticos da produção.
No entanto, a necessidade de aprovação por escrito torna-se imperativa em cenários específicos. Se o material gerado por IA incluir “entregáveis finais, semelhança de talento, dados pessoais ou propriedade intelectual de terceiros”, a aprovação por escrito será um requisito antes que a produção possa prosseguir. Esta distinção reflete a preocupação da Netflix com aspectos legais, éticos e de direitos autorais que podem surgir com o uso da IA generativa em elementos centrais de uma obra.
Princípios Fundamentais para o Uso Responsável da IA Generativa
As melhores práticas da Netflix para a IA generativa são fundamentadas em cinco diretrizes específicas, consideradas “essenciais para agir de forma responsável ao empregar fluxos de trabalho generativos”. Estes princípios visam mitigar riscos e promover um uso ético e legal da tecnologia. A empresa detalha cada um desses pontos para orientar seus parceiros:
Proteção de Direitos Autorais e Propriedade Intelectual
O primeiro princípio estabelece que “os resultados não replicam ou recriam substancialmente características identificáveis de material não possuído ou protegido por direitos autorais, nem infringem quaisquer obras protegidas por direitos autorais”. Esta diretriz é crucial em um ambiente onde os modelos de IA generativa são frequentemente treinados em vastos conjuntos de dados que podem incluir material protegido por direitos autorais. A Netflix busca evitar litígios e garantir que o conteúdo gerado por IA seja original ou devidamente licenciado, protegendo tanto a empresa quanto seus parceiros de possíveis violações de propriedade intelectual. A preocupação com a originalidade e a conformidade legal é um pilar central para a sustentabilidade criativa.
Segurança e Privacidade dos Dados
O segundo e terceiro princípios abordam a segurança e a privacidade dos dados. O segundo princípio afirma que “as ferramentas generativas utilizadas não armazenam, reutilizam ou treinam com entradas ou saídas de dados de produção”. Isso significa que a Netflix espera que as ferramentas de IA generativa empregadas pelos parceiros não utilizem os dados confidenciais da produção para aprimorar seus próprios modelos ou para qualquer outro fim que não seja o projeto em questão. Esta medida visa proteger a propriedade intelectual e os segredos comerciais da produção.
Complementarmente, o terceiro princípio orienta que, “sempre que possível, as ferramentas generativas sejam usadas em um ambiente seguro para empresas para salvaguardar as entradas”. Esta recomendação enfatiza a importância de proteger os dados de entrada fornecidos às ferramentas de IA generativa, garantindo que não sejam expostos a riscos de segurança ou acesso não autorizado. A Netflix reconhece a sensibilidade dos dados de produção e a necessidade de infraestruturas robustas para protegê-los.
Natureza Temporária do Material Gerado
O quarto princípio estabelece que “o material gerado é temporário e não faz parte dos entregáveis finais”. Esta diretriz sugere que a IA generativa deve ser utilizada principalmente como uma ferramenta auxiliar no processo criativo, para prototipagem, brainstorming ou para gerar elementos que serão posteriormente refinados ou substituídos por conteúdo criado por humanos. Ao limitar o uso da IA generativa a estágios intermediários e não a entregáveis finais, a Netflix busca manter o controle sobre a qualidade, a originalidade e a autoria do produto final, além de mitigar riscos associados à permanência de conteúdo gerado por IA sem revisão humana aprofundada.
Consentimento e Trabalho Humano
O quinto e último princípio é claro: “A IA generativa não é usada para substituir ou gerar novas performances de talentos ou trabalho coberto por sindicatos sem consentimento”. Este ponto é particularmente relevante no contexto das discussões atuais sobre o impacto da IA na indústria do entretenimento e nos direitos dos artistas e trabalhadores. A Netflix demonstra um compromisso com a proteção do trabalho humano e com a necessidade de obter consentimento explícito quando a IA generativa pode afetar a imagem, a voz ou o desempenho de talentos. Esta diretriz visa evitar a exploração de artistas e garantir que as negociações com sindicatos e associações de classe sejam respeitadas, promovendo uma transição justa para as novas tecnologias.
Orientação para Parceiros e Confiança do Público
A Netflix reforça que, se os parceiros estiverem confiantes de que estão seguindo essas diretrizes, basta informar seu contato designado na empresa sobre a intenção de usar IA generativa. No entanto, se houver incerteza ou se os parceiros souberem que não estão aderindo às regras, devem escalar a questão para seu contato Netflix para obter mais orientação antes de prosseguir, pois a aprovação por escrito pode ser necessária. Esta abordagem visa garantir que todos os usos da IA generativa sejam avaliados adequadamente e que os riscos sejam gerenciados de forma proativa.
O comunicado da Netflix enfatiza repetidamente que, embora a empresa esteja aberta ao uso da IA generativa por seus parceiros de diversas maneiras, é fundamental que eles estejam cientes dos potenciais riscos legais. A falta de consulta à gerência e à equipe jurídica da empresa pode levar a complicações. Além disso, a Netflix sublinha a importância de que “o público possa confiar no que vê e ouve na tela”. Dada a capacidade da IA generativa de “borrar a linha entre ficção e realidade ou enganar involuntariamente os espectadores”, a plataforma exige que seus parceiros ajam com cautela e responsabilidade.
Inovação e Oportunidades na Produção
As diretrizes da Netflix surgem em um momento em que a empresa tem explorado ativamente o potencial da IA generativa para otimizar a produção. Sem mencionar explicitamente os custos de produção no comunicado das diretrizes, o co-CEO da Netflix, Ted Sarandos, havia declarado semanas antes que a empresa permanece “convencida de que a IA representa uma oportunidade incrível para ajudar os criadores a fazer filmes e séries melhores, não apenas mais baratos”. Esta visão sugere que a Netflix vê a IA não apenas como uma ferramenta de redução de despesas, mas como um meio para aprimorar a qualidade e a criatividade das produções.
Sarandos citou a nova série de ficção científica argentina da Netflix, The Eternaut, como um exemplo de como a IA generativa poderia ser utilizada para manter uma produção dentro do orçamento. Este caso ilustra a aplicação prática da tecnologia para alcançar eficiências sem comprometer a visão artística. A Netflix parece estar incentivando outras equipes criativas a adotar esse tipo de fluxo de trabalho, desde que sigam as diretrizes estabelecidas para garantir um uso responsável e ético da IA generativa.
Em suma, as diretrizes da Netflix para o uso da IA generativa em suas produções representam um esforço para navegar na complexa interseção entre inovação tecnológica, responsabilidade ética e conformidade legal. Ao estabelecer princípios claros e um processo de comunicação, a empresa busca capacitar seus parceiros a explorar o potencial criativo da IA, ao mesmo tempo em que protege a integridade do conteúdo, os direitos autorais, a privacidade dos dados e a confiança do público.
Fonte: https://www.theverge.com/netflix/764433/netflix-gen-ai-production-guidelines
Para seguir a cobertura, veja também partners.