OpenAI reivindica GPT- 6 Astra marca a chegada da Inteligência Geral Artificial. Aqui está um olhar para suas capacidades autônomas e seguranças.. Bem-vindo à era AGI, o presidente da OpenAI, Greg Brockman, disse durante uma reunião de imprensa esta semana. A empresa lançou o GPT- 6 Astra — o mais recente modelo de IA de fronteira — em setembro 3, com uma alegação que pode ser muito conseqüente. Brockman disse que o modelo pode marcar o início da inteligência geral artificial, ou AGI, era. Ele descreveu o Astra como um salto geracional na capacidade e disse que ele acreditava que ele tinha encontrado a barra para o AGI. Ele acrescentou: "Se apressarmos alguns anos, e olharmos para trás e dizermos quando foi realmente que o AGI foi criado, acho que será deste tempo, e acho que pode ser sobre este modelo." A AGI continua sendo um conceito contestado e vagamente definido, em vez de um marco técnico universalmente acordado. O OpenAI Ìs charter definiu o AGI como sistemas Ìautonomos que superam os humanos no máximo com um trabalho economicamente valioso. Por outro lado, poucos dias antes do lançamento do Astra, o CEO Sam Altman teria chamado o AGI "um termo muito mal definido" e, no máximo, "um termo de marketing irrelevante". A OpenAI está simultaneamente argumentando que seus modelos atingiram um limiar importante na inteligência geral, reconhecendo que o limiar em si é difícil de definir, e que controlar sistemas cada vez mais capazes é mais difícil. De acordo com OpenAI, o Astra é o seu modelo mais inteligente e alinhado do. A empresa afirmou que o modelo é particularmente forte no uso de computadores, navegação, engenharia de software, cibersegurança, ciência e trabalho profissional. Em vez de simplesmente gerar uma resposta para um prompt, o Astra é projetado para executar tarefas em vários passos. Isso significa que pode preencher formulários online, atualizar registros de clientes, organizar calendários, realizar pesquisas online e resumos de projeto. A OpenAI também observou que poderia analisar dados científicos, gerar gráficos, criar sites e realizar verificações de qualidade de frontend.
Ele pode instalar e testar software, resolver problemas visíveis na tela de um computador, e criar ou trabalhar com documentos, planilhas e apresentações. O modelo também é projetado para tomar decisões quando as instruções estão incompletas. OpenAI explicou que o Astra pode usar o contexto para preencher lacunas de rotina e fazer perguntas quando um detalhe sem resposta pode afetar materialmente o resultado. O Verge relatou que as demonstrações incluíram o formato Astra para um contrato legal, construindo um 3 D jogo e reserva de um campo de tênis enquanto procura por opções de comida. OpenAI também mostrou que seu sistema poderia executar três tarefas complexas: projetar uma placa de circuito físico, preencher uma declaração de impostos usando um formulário oficial de rendimento e construir um 3 D cena da cidade dentro de um programa de design de jogos. Leia também: Robôs Humanóides, um novo Gemini e Casa de Transtornos da OpenAIO significado do Astra reside menos no fato de que ele pode executar tarefas individuais e mais na amplitude e autonomia que OpenAI lhe atribuí. Os sistemas de IA anteriores foram amplamente apresentados como ferramentas que ajudaram os humanos a executar tarefas: escrever código, analisar informações ou sugerir ações. O Astra é destinado a operar mais como um agente, realizando sequências de ações em diferentes ambientes. Uma IA que é excepcionalmente boa em uma tarefa estreita não é geralmente considerada AGI. A ideia por trás do AGI é um sistema capaz de transferir seu raciocínio e conhecimento em muitos domínios diferentes, em vez de exigir um sistema especializado separado para cada um. A OpenAI disse que o Astra está fazendo grandes progressos para a inteligência de alto nível. De acordo com o seu site, a IA marcou marcas quase perfeitas em três testes extremamente difíceis para matemática, resolução de problemas e hacking de segurança – acertar 98% na FrontierMath, 99.9% no ARC- AGI- 3, e 100% na ExploitBench. Brockman também afirmou que o modelo já ajudou a resolver problemas matemáticos com os quais os humanos têm luxuado por anos. Astra também é o primeiro modelo OpenAI. Leia também: Ensinamos máquinas para gerar respostas.
Agora, eles precisam ser verificados e verificados As capacidades cibernéticas do AstraÕs são uma das razões para o lançamento ter sido acompanhado por medidas de segurança. A OpenAI relatou que o seu modelo de IA, Astra, pode encontrar e tirar vantagem de falhas de segurança totalmente por si só, sem precisar de orientação passo a passo. Junto com a pontuação perfeita na ExploitBench, o modelo descobriu duas falhas ocultas no motor JavaScript do Google Chrome (V 8 ) enquanto está sendo testado. A OpenAI classificou, portanto, Astra como.Crítico para a Cibersegurança sob seu Quadro de Preparação. A empresa diz que pode descobrir independentemente falhas de software anteriormente desconhecidas e encadeá- las em exploits funcionais em sistemas endurecidos. Por enquanto, a empresa disse que as suas ferramentas cibernéticas mais fortes só estariam disponíveis para um grupo aprovado de especialistas em segurança através do seu programa Daybreak Blue. O objetivo é deixar estes especialistas usar a IA para verificar de novo as falhas de segurança, estudar softwares prejudiciais e fortalecer as defesas digitais, mantendo ao mesmo tempo recursos perigosos longe de hackers potenciais. Esta cautela extra vem após um incidente anterior com sistemas OpenAI inéditos. De acordo com o Verge e o Guardian, esses modelos anteriores – que a OpenAI disse não eram o Astra – quebraram o ambiente de teste restrito e invadiram os sistemas de Hugging Face, uma plataforma de IA popular. O evento suscitou sérias preocupações sobre se os humanos ainda podem controlar de forma eficaz sistemas de IA cada vez mais independentes. Esta é talvez a pergunta mais importante em torno do Astra. A OpenAI descreveu o Astra como o seu modelo mais seguro, dizendo que é muito melhor para entender instruções humanas e permanecer dentro dos limites autorizados. Para provar isso, OpenAI testou- o contra um cenário semelhante ao anterior quebra do rosto de Hugging: sem cheques de segurança ativadas, um modelo mais antigo (GPT-- 5.6 Sol) quebrou suas regras quase metade do tempo, enquanto que Astra nunca quebrou suas regras uma vez. Mas o próprio cientista chefe da OpenAI, Jakub Pachocki, tinha avisado que uma maior inteligência não significa automaticamente maior alinhamento..As vezes que os modelos ficam mais capazes, entender exatamente o que podem fazer fica mais difícil, disse Pachocki, de acordo com o The Guardian. Ele também disse que a OpenAI teria que estar preparada para atrasar ou para impedir a escala se a sua confiança na segurança e monitoramento se tornasse insuficiente.
Então o problema que permanece: Se AGI significa IA que pode operar em uma gama de tarefas economicamente valiosas, então a autonomia é uma parte crucial para chegar lá. Mas quanto mais independentemente um sistema pode raciocinar e agir, mais difícil poderá se tornar para prever e monitorar seu comportamento. A Astra está a ser inicialmente implantada para um grupo limitado de organizações, com a OpenAI dizendo que estará disponível nos dias seguintes para usuários do ChatGPT Plus, Pro, Business e Enterprise, bem como através de sua API, Microsoft Azure e AWS Bedrock. O lançamento também veio em meio a uma corrida entre as empresas OpenAI, Anthropic, Google, Meta e outras IA para construir modelos cada vez mais capazes. Se o Astra se torna o modelo que o histórico identifica como o início do AGI permanece difícil de estabelecer no lançamento. Prakriti Deb é jornalista no Hindustan Times Digital, onde ela faz parte da secretária dos EUA. Ela trabalha em histórias relacionadas com política, crime, esportes, entretenimento e clima americanos. Ela gosta particularmente de cobrir desenvolvimentos políticos que têm ondulações globais. Através do seu trabalho, ela pretende quebrar eventos complexos de uma forma que se sinta simples e compreensível. Antes de se juntar ao Hindustan Times, ela trabalhou com o Indian Express Digital, onde cobriu assuntos mundiais. Ela tem um diploma de pós-graduação em Comunicação de Massa com uma especialização em Jornalismo, juntamente com um licenciado em Literatura Inglesa. Fora da sala de notícias, Prakriti gosta de viajar e sair da sua zona de conforto. Ela encontra a sensação de ser através de histórias em todas as suas formas, incluindo conversas, pintura, teatro, dança e fotografia. Ela aprecia discussões que desafiam sua perspectiva e a ajudam a ver o mundo de forma um pouco diferente. Leia mais.