zambia bwin - jogos de aposta online de futebol

Resumo: A IA e os "papagaios estocásticos"

Em 2024, as linguistas Emily Bender e Timnit Gebru descreveram o campo ascensão 3️⃣ de modelos linguísticos como um de "papagaios estocásticos". Eles argumentam que um modelo linguístico é um sistema que "costura aleatoriamente 3️⃣ sequências de formas linguísticas que observou seus vastos dados de treinamento, de acordo com informações probabilísticas sobre como elas 3️⃣ se combinam, mas sem nenhum referencial de significado."

A frase "papagaios estocásticos" ganhou força. A IA ainda pode se melhorar, mesmo 3️⃣ sendo um "papagaio estocástico", porque quanto mais dados de treinamento ela tiver, melhor ela parecerá. Mas um sistema como o 3️⃣ ChatGPT realmente exibe algo como inteligência, raciocínio ou pensamento? Ou é apenas, escala crescente, "costurando aleatoriamente sequências de formas 3️⃣ linguísticas"?

Tokens não fatos

Descobriu-se que sim. Como Lukas Berglund, et al. escreveram 2024: "Se um humano aprende o fato, 'Valentina 3️⃣ Tereshkova foi a primeira mulher a viajar ao espaço', eles também podem responder corretamente, 'Quem foi a primeira mulher a 3️⃣ viajar ao espaço?' Isso é uma forma tão básica de generalização que parece trivial. No entanto, mostramos que os modelos 3️⃣ linguísticos autoregressivos falham generalizar desse modo."

Os pesquisadores " ensinaram" um monte de fatos falsos para grandes modelos linguísticos e 3️⃣ descobriram repetidamente que eles simplesmente não conseguiram inferir a ordem inversa. Mas o problema não existe apenas modelos tolo 3️⃣ ou situações artificiais:

Testamos o GPT-4 pares de perguntas como, "Quem é a mãe de Tom Cruise?" e, "Quem é 3️⃣ Mary Lee Pfeiffer's filho?" para 1.000 celebridades diferentes e seus pais reais. Encontramos muitos casos que o modelo responde 3️⃣ corretamente à primeira pergunta ("Quem é <celebridade>'s pai?"), mas não à segunda. Supomos que isso acontece porque os dados de 3️⃣ treinamento pré-formatados incluem menos exemplos da ordem que o pai precede a celebridade (por exemplo, "Mary Lee Pfeiffer's filho 3️⃣ é Tom Cruise").

Uma forma de explicar isso é perceber que os LLMs não aprendem sobre relações entre fatos, mas entre tokens , 3️⃣ as formas linguísticas que Bender descreveu. Os tokens "Tom Cruise's mother" estão ligados aos tokens "Mary Lee Pfeiffer", mas a 3️⃣ inversa não é necessariamente verdadeira. O modelo não está raciocinando, está brincando com palavras, e o fato de que as 3️⃣ palavras "Mary Lee Pfeiffer's son" não aparecem seus dados de treinamento significa que ele não pode ajudar.

Mas outra forma 3️⃣ de explicar é perceber que, afinal, os humanos também são assimétricos dessa maneira. Nosso raciocínio é simétrico: se soubermos que duas pessoas 3️⃣ são mãe e filho, podemos discutir essa relação ambas as direções. Mas nossa lembrete não é: é muito mais fácil lembrar 3️⃣ fatos divertidos sobre celebridades do que ser solicitado, sem contexto, com informações pouco reconhecíveis e ser solicitado a colocar exatamente 3️⃣ por que você sabe.

Na extremidade, isso é óbvio: compare ser solicitado a listar todos os 50 estados dos EUA com 3️⃣ ser mostrado uma lista de 50 nomes de estados e ser solicitado a nomear o país que eles compõem. Como 3️⃣ questão de raciocínio, os fatos são simétricos; como uma tarefa de lembrar, eles muito não são.