A IA generativa, particularmente a IA de conversão de texto em imagem, está atraindo tantos processos judiciais quanto dólares de risco.
Duas empresas por trás de ferramentas populares de arte de IA, Midjourney e Stability AI, estão envolvidas em um processo legal que alega que elas infringiram os direitos de milhões de artistas ao treinar suas ferramentas em imagens extraídas da web. Separadamente, o fornecedor de imagens Getty Images levou a Stability AI ao tribunal por supostamente usar imagens de seu site sem permissão para treinar Stable Diffusion, uma IA de geração de arte.
As falhas da IA generativa – uma tendência de regurgitar os dados nos quais é treinada e, consequentemente, a composição de seus dados de treinamento – continuam a colocá-la na mira legal. Mas uma nova startup, Bria, afirma minimizar o risco treinando a geração de imagens – e logo a geração de vídeos – IA de maneira “ética”.
“Nosso objetivo é capacitar desenvolvedores e criadores, garantindo que nossa plataforma seja legal e eticamente sólida”, disse Yair Adato, cofundador da Bria, ao TechCrunch em uma entrevista por e-mail. “Combinamos o melhor da tecnologia de IA generativa visual e práticas responsáveis de IA para criar um modelo sustentável que prioriza essas considerações.”
Créditos da imagem: Bria
Adato cofundou a Bria quando a pandemia atingiu em 2020, e o outro cofundador da empresa, Assa Eldar, ingressou em 2022. Durante o doutorado de Adato. Após estudar ciência da computação na Ben-Gurion University of the Negev, ele diz que desenvolveu uma paixão pela visão computacional e seu potencial para “melhorar” a comunicação por meio da IA generativa.
“Percebi que há um caso de uso comercial real para isso”, disse Adato. “O processo de criação de visuais é complexo, manual e muitas vezes requer habilidades especializadas. A Bria foi criada para enfrentar esse desafio – fornecendo uma plataforma de IA generativa visual sob medida para empresas que digitaliza e automatiza todo esse processo.”
Graças aos avanços recentes no campo da IA, tanto do lado comercial quanto da pesquisa (modelos de código aberto, redução do custo de computação e assim por diante), não faltam plataformas que oferecem ferramentas de arte de IA de conversão de texto em imagem (Midjourney , DeviantArt, etc.). Mas Adato afirma que o Bria é diferente porque (1) se concentra exclusivamente na empresa e (2) foi construído desde o início com considerações éticas em mente.
A plataforma da Bria permite que as empresas criem recursos visuais para postagens de mídia social, anúncios e listagens de comércio eletrônico usando sua IA de geração de imagens. Por meio de um aplicativo da web (uma API está a caminho) e do serviço de IA em nuvem Picasso da Nvidia, os clientes podem gerar, modificar ou fazer upload de visuais e, opcionalmente, ativar um recurso de “guardião da marca”, que tenta garantir que seus visuais sigam as diretrizes da marca.
A IA em questão é treinada em conjuntos de dados “autorizados” contendo conteúdo que Bria licencia de parceiros, incluindo fotógrafos e artistas individuais, bem como empresas de mídia e repositórios de imagens, que recebem uma parte da receita da startup.
Bria não é o único empreendimento explorando um modelo de negócios de compartilhamento de receita para IA generativa. O recém-lançado Contributors Fund da Shutterstock reembolsa criadores cujo trabalho é usado para treinar modelos de arte de IA, enquanto a OpenAI licenciou uma parte da biblioteca da Shutterstock para treinar DALL-E 2, sua ferramenta de geração de imagens. A Adobe, enquanto isso, diz que está desenvolvendo um modelo de remuneração para colaboradores do Adobe Stock, sua biblioteca de conteúdo de ações, que permitirá que eles “monetizem seus talentos” e se beneficiem de qualquer receita que sua tecnologia de IA generativa, Firefly, traga.
Mas a abordagem de Bria é mais extensa, diz Adato. da empresa O modelo de compartilhamento de receita recompensa os proprietários de dados com base no impacto de suas contribuições, permitindo que os artistas definam preços por execução de treinamento de IA.
Adato explica: “Toda vez que uma imagem é gerada usando a plataforma generativa de Bria, rastreamos os visuais no conjunto de treinamento que mais contribuíram para o [generated art], e usamos nossa tecnologia para alocar receita entre os criadores. Essa abordagem nos permite ter várias fontes licenciadas em nosso conjunto de treinamento, incluindo artistas, e evitar problemas relacionados à violação de direitos autorais.”
Créditos da imagem: Bria
Bria também denota claramente todas as imagens geradas em sua plataforma com uma marca d’água e fornece acesso gratuito – ou assim afirma, pelo menos – a organizações sem fins lucrativos e acadêmicos que “trabalham para democratizar a criatividade, impedir deepfakes ou promover a diversidade”.
Nos próximos meses, Bria planeja dar um passo adiante, oferecendo um modelo de arte de IA generativa de código aberto com um mecanismo de atribuição integrado. Houve tentativas disso, como Have I Been Trained? e Stable Attribution, sites que se esforçam ao máximo para identificar quais peças de arte contribuíram para um determinado visual gerado por IA. Mas o modelo de Bria permitirá que outras plataformas generativas estabeleçam acordos de compartilhamento de receita semelhantes com os criadores, diz Adato.
é dificil colocar também muito estoque na tecnologia de Bria, devido ao nascimento da indústria de IA generativa. Não está claro como, por exemplo, Bria está “rastreando” os visuais nos conjuntos de treinamento e usando esses dados para dividir a receita. Como Bria resolverá reclamações de criadores que alegam estar sendo mal pagos injustamente? Os bugs no sistema farão com que alguns criadores sejam pagos em excesso? O tempo vai dizer.
Adato exala a confiança que você esperaria de um fundador, apesar das incógnitas, argumentando que a plataforma de Bria garante que cada colaborador dos conjuntos de dados de treinamento de IA receba sua parte justa com base no uso e no “impacto real”.
“Acreditamos que a forma mais eficaz de resolver [the challenges around generative AI] está no nível do conjunto de treinamento, usando um conjunto de treinamento de alta qualidade, de nível empresarial, equilibrado e seguro”, disse Adato. “Quando se trata de adotar IA generativa, as empresas precisam considerar as implicações éticas e legais para garantir que a tecnologia seja usada de maneira responsável e segura. No entanto, ao trabalhar com a Bria, as empresas podem ter certeza de que essas preocupações serão atendidas.”
Essa é uma questão em aberto. E não é o único.
E se um criador quiser sair da plataforma de Bria? Eles podem? Adato me garante que eles conseguirão. Mas Bria usa seu próprio mecanismo de exclusão em oposição a um padrão comum, como o DeviantArt ou o grupo de defesa do artista Spawning, que oferece um site onde os artistas podem remover sua arte de um dos conjuntos de dados de treinamento de arte generativa mais populares.
Isso aumenta o fardo para os criadores de conteúdo, que agora precisam se preocupar em tomar medidas para remover sua arte de outra plataforma de IA generativa (a menos, é claro, que usem uma ferramenta de “camuflagem” como o Glaze, tornando sua arte impossível de treinar). Adato não vê dessa forma.
“Tornamos prioridade focar em coletas de dados empresariais seguras e de qualidade na construção de nossos conjuntos de treinamento para evitar dados tendenciosos ou tóxicos e violação de direitos autorais”, disse ele. “No geral, nosso compromisso com o treinamento ético e responsável de modelos de IA nos diferencia de nossos concorrentes.”
Esses concorrentes incluem empresas como OpenAI, Midjourney e Stability AI, bem como Jasper, cuja ferramenta de arte generativa, Jasper Art, também tem como alvo clientes corporativos. A competição formidável – e as questões éticas abertas – não parecem ter assustado os investidores – Bria levantou US $ 10 milhões em capital de risco até o momento da Entrée Capital, IN Venture, Getty Images e um grupo de investidores anjos israelenses.
Créditos da imagem: Bria
Adato disse que Bria atualmente atende a “uma variedade” de clientes, incluindo agências de marketing, repositórios de ações visuais e empresas de tecnologia e marketing. “Estamos empenhados em continuar a aumentar a nossa base de clientes e fornecer-lhes soluções inovadoras para as suas necessidades de comunicação visual,” acrescentou.
Se Bria for bem-sucedida, parte de mim se pergunta se isso gerará uma nova safra de empresas de IA generativa com escopo mais limitado do que os grandes players de hoje – e, portanto, menos suscetível a contestações legais. Com financiamento para IA generativa começando a esfriar, em parte devido ao alto nível de competição e questões sobre responsabilidade, startups de IA generativa mais “estreitas” podem ter uma chance de cortar o ruído – e evitar ações judiciais no processo.
Teremos que esperar para ver.