4 Responsabilidade na Pesquisa e Propriedade Intelectual
Este capítulo faz parte de um livro em desenvolvimento ativo e ainda não passou pela revisão do autor. O conteúdo pode mudar conforme a revisão avança.
A decisão de pesquisa. Para cada frase que uma IA ajudou a produzir, você decide duas coisas: se você vai pessoalmente sustentá-la como sua, e o que a sua declaração vai dizer sobre como ela surgiu. O seu nome no trabalho significa que você responde por ele, seja qual for a ferramenta que ajudou.
4.1 Por que essa decisão importa
A decisão em jogo: por quais frases do seu trabalho você está preparado para responder como suas, e o que você conta ao seu leitor sobre como cada uma foi feita.
“Quando alguma coisa neste artigo se mostra errada, eu não pergunto qual software escreveu. Eu pergunto de quem é o nome que está nele. Essa pessoa responde por cada linha.” — um editor de periódico científico, para quem publica pela primeira vez
Você vai terminar este livro com um trabalho que leva o seu nome: um pôster ou um resumo de uma figura só, uma nota de pesquisa e a defesa de ambos diante de gente que pode te perguntar qualquer coisa. Uma ferramenta de IA pode ter te ajudado a encontrar fontes, rascunhar um parágrafo ou calcular um número. Nada disso tira a responsabilidade de você. Quem revisa, quem lê e você mesmo no futuro cobram de você, a pessoa nomeada como autora, a prestação de contas. Este capítulo traça essa linha de propósito, antes que alguém a trace por você.
4.2 O conceito
Propriedade intelectual é ser autor de, e responder por, toda alegação que aparece sob o seu nome, seja qual for a ferramenta que ajudou a produzi-la. Exemplo: se uma IA rascunha o seu parágrafo de métodos e ele afirma que o cloreto do córrego passou de um limite de segurança, essa frase é sua, e se ela estiver errada, o erro é seu.
A propriedade se apoia na responsabilização, que é ser a pessoa que responde pela correção e pela integridade do trabalho quando ele é questionado. Exemplo: na sua defesa, quando alguém perguntar como você sabe um número, “a IA calculou” não é uma resposta. “Eu recalculei a partir das minhas próprias medições, e a checagem está aqui” é.
O hábito que torna a responsabilização visível é a declaração de uso de IA, um registro curto e honesto de qual ferramenta de IA fez qual tarefa e de como você verificou o resultado dela. Exemplo: “uma assistente de IA localizou fontes candidatas; eu recuperei e confirmei cada uma no catálogo da biblioteca”. Declarar não é confessar. Isso protege você, porque mostra exatamente onde o seu próprio julgamento entrou no trabalho.
Declarar ficou mais difícil de uma maneira específica, e vale nomear. Você raramente manda um prompt só hoje em dia. Você roda um loop de IA, o ciclo prompt → resposta → interrogação → refinamento → nova execução: você pergunta, lê, contesta, pergunta de novo, e às vezes uma ferramenta agêntica roda dezenas desses ciclos sozinha e te entrega um resultado pronto. “Usei IA na análise” não descreve nada disso. Uma declaração honesta diz o que você especificou na entrada, mais ou menos o que o loop fez, e o que você abriu e conferiu quando ele parou. O seu registro é o que torna possível escrever essa frase, porque ninguém lembra do ciclo onze um mês depois.
Algumas escolhas nunca chegam a passar para a ferramenta. Uma decisão que nunca se delega é um julgamento que continua sendo seu por mais capaz que a ferramenta fique: qual pergunta você persegue, o que a sua evidência autoriza, a ética do estudo e a decisão de colocar o seu nome no trabalho. Exemplo: uma IA pode listar medidas candidatas de qualidade da água, mas escolher a que você vai defender é com você.
Somando tudo, a regra é simples. Use IA livremente por alcance e velocidade. Guarde para você a propriedade, a responsabilização e a declaração honesta.
4.3 Um exemplo trabalhado
Imagine um pequeno projeto de biologia de água doce. Você está testando se o sal espalhado nas estradas no inverno eleva o cloreto, um íon de sal dissolvido que prejudica a vida de água doce acima de certos níveis, em um córrego atrás do campus. Você coleta dez amostras de água e pede a uma ferramenta de IA ajuda para escrever o resultado.
A ferramenta devolve um parágrafo fluente: “O cloreto médio foi de 310 mg/L, bem acima do critério crônico da EPA dos Estados Unidos para a vida aquática, de 230 mg/L, então o córrego é inseguro para a vida aquática”. Aquilo se lê como um resultado pronto. Aqui está a decisão de propriedade: quais partes dessa frase você vai pessoalmente sustentar?
Você a divide em pedaços que consegue assumir. A média das suas dez amostras é um número que você recalcula em um minuto, então você recalcula, e obtém 297, não 310. O critério da EPA é um valor publicado, então você abre o National Recommended Water Quality Criteria da EPA e confirma você mesmo o número real, em vez de confiar no número da ferramenta. A palavra “inseguro” alega algo sobre o córrego inteiro durante todo o inverno, a partir de dez amostras de um único dia, então você a estreita até o que a sua evidência autoriza: cloreto elevado nestas amostras, neste ponto, nesta data.
Agora a sua declaração se escreve sozinha: a ferramenta rascunhou o parágrafo, e você fez a conferência, a recuperação e a reescrita que tornaram a alegação sua. Você é dono da frase corrigida. Você não seria dono da original.
4.4 O laboratório no Colab
Este capítulo tem o seu próprio notebook companheiro — abra-o no Colab pelo selo acima. O notebook reúne os prompts e o código do capítulo e termina com o espaço de trabalho Agora é a sua vez, para você completar a etapa do capítulo no seu projeto sem sair do Colab. O laboratório completo de sala de aula por trás deste capítulo é o notebook do curso nb01, “Research in the age of AI: your arm, your RA, not your brain” (abrir no Colab), parte do curso companheiro apresentado no apêndice Para instrutores. Lá você classifica tarefas de pesquisa reais pelo quanto elas podem ser delegadas com segurança, pega uma citação ao vivo recuperando-a você mesmo, e preenche a sua primeira linha do AI Research Ledger (o registro de uso de IA): o registro que transforma “eu conferi” em algo que você consegue mostrar.
4.5 Prompts de IA recomendados
Comprometa-se primeiro com a sua própria resposta, e só então delegue. Cada prompt abaixo entrega à ferramenta alcance, não julgamento.
Localize a fonte real.
Act as a research assistant in freshwater ecology. I need the current U.S. EPA
aquatic-life criterion for chloride. Give the exact value, the document it comes
from, and a link. Only state a figure you are confident is published; if you are
unsure, say so and tell me where to look.Depois de rodar, verifique: abra o documento da EPA e leia o número você mesmo (leitura da fonte primária). Combate a fabricação confiante, um número citado com uma fonte inventada.
Liste toda alegação a verificar.
Here is my draft results paragraph: [paste]. List every empirical claim in it as a
table: the claim, the number or source it rests on, and whether that number came from
my data or from you. Do not add any new claims.Depois de rodar, verifique: confira a tabela contra a sua própria lista do que você de fato mediu. Combate a ilusão de completude, uma alegação que o rascunho enfiou no texto e que não aparece na prestação de contas da própria ferramenta.
Faça o red team (revisão adversária) da sua propriedade.
Act as a hostile reviewer. Read my draft and name every sentence I could NOT defend
myself if someone asked how I know it is true. Do not rewrite anything. List the weak
spots.Depois de rodar, verifique: para cada frase sinalizada, produza a sua própria checagem ou corte a alegação. Combate a concordância bajuladora, o elogio que revisa o seu ego em vez da sua evidência.
A ferramenta pode buscar, rascunhar e calcular. Ela nunca pode decidir em quais alegações você põe o seu nome, se a sua evidência sustenta uma palavra como “inseguro”, a ética da sua amostragem, como você enuncia a sua incerteza, ou o que diz a sua declaração de uso de IA. Autoria é uma responsabilidade, não uma tarefa, e ela não se transfere.
4.6 Um caso de falha da IA
Você pede que a ferramenta escreva a sua declaração de uso de IA. Ela produz uma frase organizada e confiante: “A IA foi usada apenas para pequenas edições de linguagem”. Soa profissional, e é falso. A ferramenta na verdade rascunhou o seu parágrafo de resultados inteiro, incluindo o valor de 310 mg/L e a alegação de “inseguro”. Sem conferência, essa declaração subestima o papel da ferramenta e superestima a sua propriedade, que é exatamente o problema de integridade que a declaração existe para evitar.
Você pega isso com um registro que a ferramenta não enxerga: o seu próprio AI Research Ledger. Ponha a declaração de uma linha ao lado das linhas do seu registro e a divergência fica evidente. O registro diz que a ferramenta rascunhou a análise; a declaração diz que ela só editou a linguagem. Você reescreve a declaração para que ela corresponda ao que aconteceu. A lição é direta: nunca deixe uma ferramenta descrever o próprio papel. Quem descreve é você, a partir do seu registro.
4.7 Agora é a sua vez
Você já tem um registro, uma lista de tarefas de quem dirige e uma delegação que rodou de ponta a ponta. Este passo põe o seu nome em tudo isso, de propósito, por escrito.
- Escreva a sua declaração de propriedade: três ou quatro frases nomeando o trabalho em que você pretende colocar o seu nome, por que você vai responder pessoalmente, e o que você não vai alegar ter feito.
- Escreva a sua lista do que nunca se delega para este projeto específico. Cinco linhas já bastam. Faça de cada uma uma escolha, não um tema: qual pergunta você persegue, o que conta como uma comparação justa, onde a alegação para. Guarde a lista em um lugar onde você vá de fato vê-la.
- Rascunhe a declaração de uso de IA que você anexaria ao seu trabalho como ele está hoje, construída a partir das linhas do seu registro e não da memória. Nomeie cada ferramenta, o que ela fez e como você a conferiu. Se um agente rodou um loop longo em seu nome, diga isso, e diga o que você abriu e inspecionou quando ele terminou.
- Leia a declaração e o registro lado a lado. Onde eles discordarem, o registro está certo. Corrija a declaração.
- Encontre uma frase que você já escreveu e que não conseguiria defender se alguém perguntasse como você sabe que ela é verdadeira. Produza a checagem, ou corte a frase.
- Registre tudo isso no seu AI Research Ledger e verifique pelo menos uma alegação sobrevivente com um método nomeado do Guia de Verificação: leitura da fonte primária se ela se apoia em uma fonte, cálculo direto se ela se apoia em um número. Uma IA revisora pode rodar a checagem com você; a decisão de aceitar ou rejeitar continua sendo sua.