A questão com grandes modelos de linguagem – capitalizada aqui da maneira que você pode capitalizar a Deus ou a morte, dado o missão crítica Importância O setor de tecnologia agora se atribui a eles – não é que eles gerem texto. Essa parte é quase carinhosamente pitoresca, fofa até. Então 2022.
O verdadeiro enigma que estou acumulando meu cérebro, querido leitor de Hackernoon, é mais perturbador. Como a sensação que você tem quando percebe que está no piloto automático nas últimas duas horas fazendo 80 na i5.
Eu me pergunto: eu tenho vivido como um algoritmo durante todo esse tempo, muito antes de grandes modelos de idiomas começarem a concluir automaticamente meus pensamentos? A IA generativa, na replicação das maneiras pelas quais escrevemos, também expondo a natureza mecânica de nossa cognição?
Talvez estivéssemos como uma máquina para começar
Somos informados de que grandes modelos de idiomas não escrever. Não no sentido de Shakespeare, as peças de autoria ou você escreveu notas de amor do Anuário Weepy para sua paixão da 10ª série.
Eles prever. Ou seja, eles colhem a probabilidade estatística de tokens do tamanho de uma mordida que aparecem em certos padrões e os servem de volta para nós em arranjos que parecem pensar, mas são, de fato, apenas uma simulação do pensamento real.
Isso levanta uma pergunta inquietante: quanto da escrita humana já era apenas … isso? Com que frequência não estamos escrevendo, mas previamente montando, nossa escolha de palavras um jogo de tetris jogou com padrões emprestados, frases e imitação inconsciente de formas retóricas estabelecidas?
E se a verdadeira revelação indutora de azia aqui não for que modelos de linguagem grandes possam nos imitar, mas que o que chamamos de “nós” era parecido com uma máquina o tempo todo?
O processo do escritor: luta romântica ou reconhecimento de padrões
Estranhamente o suficiente, se você quebrar o processo do escritor, ou pelo menos esse Processo do escritor, ele começa a se parecer muito com o que os grandes modelos de idiomas fazem. Menos um salto intuitivo de imaginação e mais uma questão de digitalização de memória para a próxima palavra mais provável com base no contexto e na experiência.
Muitos de nós gostam de imaginá -lo como um esforço arcano e profundamente humano, uma luta de luta livre com a musa. Uma dança de inspiração e luta e de dobrar a linguagem em algo bonito e revelador.
Mas não está escrevendo apenas uma série de micro-predições? Não estamos buscando palavras não através da inspiração divina, mas através da exposição e reconhecimento de padrões?
Então, quando os grandes modelos de linguagem fazem a mesma coisa – apenas com um corpus de treinamento maior e menos crises de identidade – é realmente tão diferente? Não está fazendo o que sempre fizemos, apenas mais rápido e em escala, e sem o fardo da síndrome do bloqueio ou impostor do escritor?
E se a escrita sempre foi um ato de previsão sofisticada de padrões, o que isso diz sobre pensamento? É possível que a consciência humana não seja o problema difícil inefável que achamos que é?
Gostaria de saber se a idéia aparentemente nova que eu tive é apenas uma resposta probabilística aos estímulos, uma extrapolação calculada de tudo o que já li, ouvi e me disse para acreditar.
Talvez a verdadeira ameaça de IA generativa não seja que ela me substitua, mas que me obriga a enfrentar a possibilidade perturbadora de que eu nunca fui tão original quanto pensei.
A verdade fórmula sobre a maioria dos escritos
Obviamente, os seres humanos se apegam à idéia de exclusividade. Resistimos à noção de que a criatividade pode ser mecanizada porque a criatividade é, bem, o que nos torna humanos. Dizemos a nós mesmos que a IA não pode gerar arte verdadeira porque não parece que nós. Não anseia, não sofre de dúvida incapacitante, não leva as dores e as cicatrizes emocionais do amor não correspondido.
E, no entanto, se estamos sendo brutalmente honestos, quantos escritores humanos estão realmente envolvidos em um ato de criação bruta em comparação com idéias, tropos e esquemas pré-existentes em formas que parecem vagamente novas? Quanta escrita humana é chata e previsível?
Pegue a ficção de gênero James Patterson. Tome redação acadêmica ou jornalismo. Veja o conteúdo da cópia ou influenciador de publicidade. Considere o acordeão performativo e importante das postagens de sabedoria no LinkedIn que implantam quebras de linha desnecessárias para jogar o botão “Veja mais”.
O fato de a IA agora produzir fac -símiles convincentes dessas formas não é necessariamente uma prova da sofisticação da IA, mas é uma acusação de como já era a escrita mais fórmula humana.
Talvez a maioria dos escritores humanos, incluindo os seus realmente, esteja fazendo a mesma coisa, apenas com mais manobra e uma maior probabilidade de usar mal “literalmente” metaforicamente ou “afetar” em vez de “efeito”.
Não tenho medo de a IA substituir os escritores humanos. Tenho medo de um futuro skynetish, menos as armas nucleares e a revolta do robô, onde a IA mantém um espelho para a produção humana e expõe o quão sem alma já era.
E agora, na interação recursiva de seres humanos usando grandes modelos de linguagem para editar, co-autor e plagiar, mergulhamos de cabeça em um mundo não tão bravo de IA imitando humanos imitando a IA imitando humanos, um Ouroboros de conteúdo homogêneo.
Pavor existencial de escrever na era da IA
Em momentos baixos, me preocupo com o achatamento do discurso e com a profusão de uma triste raia linguística bege que aguarda – apenas uma forma de pavor existencial rastejante na era dos grandes modelos de idiomas, com a lenta atrofia de habilidades de pensamento crítico, a erosão da verdade em um mundo de all -hobs e os que estão denominados.
Penso no meu feed do LinkedIn e no acordeão das postagens da sabedoria e como postagens como essas não apenas persistirão, mas de alguma forma se tornarão ainda mais formuladas graças à AI.
Então, novamente, talvez a diferença mais importante entre máquinas e humanos seja Sofrimentoparticularmente quando se trata de escrever.
Modelos de idiomas grandes produzem o conteúdo em questão de segundos. Eles não agonizam por escolher a melhor palavra. Eles não reescrevem um parágrafo 15 vezes até que pareça certo. Eles não se perguntam se são uma fraude e certamente não perdem o sono por causa da suspeita de que o que eles escreveram é o pastiche derivado. Em suma, eles não sofrem.
Mas talvez até a idéia de sofrer como um caminho para o significado e a purificação seja apenas mais um padrão, um grande modelos de idiomas acabará aprendendo a se replicar.
O que acontece quando eles fazem? Eles, uma vez solicitados, dizem que estão lutando para ter idéias? Que eles precisam de uma extensão porque não estão no espaço da cabeça certa?
Eles simularão a agonia do bloqueio de escritores e a computação de resíduos se preocupando com o quão bem seus resultados serão recebidos?
Os grandes modelos de idiomas aprenderão a imitar o sofrimento de maneiras estatisticamente plausíveis? E quando o fazem, o que acontece então com o último pingo de excepcionalismo humano?
Sem pista. Mas, por enquanto, continuarei colocando caneta na página e encontrando a mágica, como pode ser, ao escrever uma frase bem trabalhada ou uma nota de amor chorosa.
A IA usa a divulgação: Ocasionalmente, a IA era consultada como parceira de brainstorming da estrutura e como um estagiário editorial não remunerado para ajustes no nível da sentença. Não sofreu ao lado de sua contraparte humana. Tenha certeza: Todas as inseguras, a insegurança e a ansiedade de dicção permanecem inteiramente as próprias do autor.
