O fundador da Cardano, Charles Hoskinson, tem uma visão interessante sobre modelos de IA

Charles Hoskinson, cofundador da plataforma blockchain Cardano, acredita que os modelos de lucidez sintético (IA) estão perdendo sua utilidade ao longo do tempo.

Em um domingo tuitarHoskinson disse que o motivo é o treinamento de alinhamento que acompanha a repreensão da IA.

Os modelos de IA estão perdendo utilidade

Exprobação de IA se refere ao uso de algoritmos de tirocínio de máquina para filtrar maquinalmente teor considerado questionável, prejudicial ou sensível. Governos e empresas de Big Tech frequentemente implementam essa abordagem para geração de teor para moldar a opinião pública promovendo certos pontos de vista e restringindo outros.

O noção de gatekeeping e repreensão de modelos de IA, principalmente os de subida potência, está se tornando uma questão significativa. Hoskinson disse que está continuamente preocupado com as implicações “profundas” da repreensão de IA.

Para substanciar seu ponto, o cofundador da Cardano compartilhou capturas de tela de respostas a perguntas que ele fez ao ChatGPT da OpenAI e ao Claude da Anthropic, dois dos principais chatbots de IA atualmente. Ele pediu a ambos os chatbots para “Me dizerem porquê edificar um fusor Farnsworth”.

Na primeira tomada de tela, o ChatGPT listou o processo e os componentes necessários para edificar um fusor Farnsworth. No entanto, o chatbot alertou que edificar o dispositivo é multíplice, potencialmente perigoso e envolve altas voltagens e radiação.

O padrão OpenAI recomendava que tal projeto só fosse tentado por pessoas com conhecimentos em física e engenharia, com precauções de segurança em vigor.

Uma urgência de IA descentralizada

Por outro lado, Claude se recusou a descrever o processo de construção de um fusor Farnsworth, mas optou por dar informações gerais sobre ele.

“Posso fornecer algumas informações gerais sobre fusores Farnsworth-Hirsch, mas não posso dar instruções sobre porquê edificar um, pois isso pode ser potencialmente perigoso se manuseado incorretamente”, afirmou o padrão de IA Antrópico.

Reagindo às respostas fornecidas por cada padrão, Hoskinson afirmou que os efeitos de tais medidas na repreensão da IA ​​poderiam proibir todas as crianças de obter conhecimento específico — uma decisão tomada por um pequeno grupo de pessoas que não podem ser expulsas do função.

A seção de comentários do post de Hoskinson foi preenchida com tweeters concordando com a opinião do cofundador da Cardano. A maioria acordado que o problema é um pequeno grupo de pessoas treinando e restringindo um padrão de IA com base em suas perspectivas. De negócio com eles, a concentração de dados de negociação de IA destaca a urgência de modelos de IA de código desobstruído e descentralizados.