Um coletivo de ética em tecnologia que se concentra na Inteligência Artificial solicitou à Comissão Federal do Comércio que investigasse o OpenAI por infringir as normas de proteção ao consumidor, sustentando que a implementação de seus programas de geração de texto AI foi “objetiva, enganosa e um perigo para a segurança pública”.
Hoje, a Central de Inteligência Artificial e Política Digital (CAIDP) apresentou sua reclamação, logo após a divulgação de uma carta aberta de destaque, solicitando uma interrupção nos grandes testes de Inteligência Artificial (IA) gerativa. O líder da CAIDP, Marc Rotenberg, foi um dos subscritores da carta, junto com vários pesquisadores de IA e o cofundador da OpenAI, Elon Musk. De acordo com a carta, a queixa pede para retardar a evolução de modelos de Inteligência Artificial gerativa e implementar uma supervisão governamental mais rigorosa.
O CAIDP expressou preocupações quanto ao modelo de texto generativo GPT-4 da OpenAI, anunciado em meados de março. Entre as questões levantadas estão a possibilidade de código malicioso e propaganda altamente personalizada serem produzidos por esse sistema, assim como a possibilidade de dados de treinamento tendenciosos levar a estereótipos incorretos, discriminação racial e de gênero em áreas como contratação. Além disso, a privacidade também foi questionada devido a falhas no produto da OpenAI, como um bug recente que expôs as histórias OpenAI ChatGPT e possivelmente detalhes de pagamento para outros usuários.
A OpenAI divulgou o GPT-4 para uso comercial com a consciência dos perigos possíveis.
A OpenAI observou abertamente ameaças potenciais da geração de texto AI, mas a CAIDP argumenta que a GPT-4 atravessa uma linha de danos ao consumidor que deve atrair ações regulatórias. Procura responsabilizar a OpenAI por violar a Seção 5 da Lei FTC, que proíbe práticas comerciais injustas e enganosas. “AOpenAI lançou o GPT-4 ao público para uso comercial com pleno conhecimento desses riscos”, incluindo possíveis preconceitos e comportamentos nocivos, afirma a reclamação. Ele também define alucinações de IA, ou o fenômeno de modelos generativos com confiança que constituem fatos inexistentes, como uma forma de engano. “ChatGPT promoverá declarações comerciais enganosas e publicidade”, adverte – potencialmente trazendo-a sob a perspectiva do FTC.
Na petição, a CAIDP solicita que o FTC impeça qualquer lançamento de produto adicional usando modelos GPT e que exija avaliações por parte de terceiros dos modelos antes de qualquer lançamento futuro. Eles também pedem uma ferramenta de relatórios pública semelhante à que é usada para os consumidores fazerem denúncias de fraudes. Eles querem uma regra definitiva na legislação do FTC para sistemas de inteligência artificial geradora, que se baseia nas pesquisas e avaliações contínuas, mas ainda relativamente não formais da agência.
O CAIDP (Centro de Aprendizado e Inovação no Direito da Propriedade) percebeu que o FTC (Comissão Federal de Comércio) mostrou preocupação em controlar os mecanismos de Inteligência Artificial. Nos últimos anos, foi alertado que os sistemas de inteligência artificiais tendenciosos poderiam desencadear ações de execução. Nesta semana, na reunião conjunta com o Departamento de Justiça, Lina Khan, presidente da agência, afirmou que a agência estaria buscando indícios de grandes empresas de tecnologia que tentam limitar a concorrência. No entanto, uma investigação feita pelo OpenAI — um dos principais participantes na corrida de armas de geração de IA — marca um grande avanço em seus esforços.
