Segurança da IA em destaque, encriptação totalmente homomórfica pode ser a solução

Com o rápido desenvolvimento da tecnologia de inteligência artificial, o Manus alcançou resultados inovadores nos testes de referência GAIA, com desempenho superior ao de grandes modelos de linguagem de igual nível. O Manus demonstrou a capacidade de realizar tarefas complexas de forma independente, como negociações comerciais internacionais e outras áreas que envolvem conhecimento especializado em múltiplas vertentes. Em comparação com os sistemas tradicionais, o Manus possui vantagens significativas em desagregação dinâmica de objetivos, raciocínio multimodal e aprendizado com memória aprimorada.

No entanto, os avanços da Manus também suscitaram um intenso debate na indústria sobre o caminho de desenvolvimento da IA: no futuro, teremos uma inteligência artificial geral (AGI) unificada, ou vários agentes inteligentes especializados (MAS) trabalhando em conjunto? Este debate reflete, na verdade, a questão do equilíbrio entre eficiência e segurança no desenvolvimento da IA. À medida que um único agente se aproxima da AGI, a falta de transparência no processo de tomada de decisão aumenta o risco; enquanto a colaboração entre múltiplos agentes pode dispersar o risco, pode também levar a perder momentos críticos de decisão devido a atrasos na comunicação.

O desenvolvimento do Manus amplifica, de forma invisível, os riscos de segurança inerentes à IA. Em cenários médicos, é necessário acessar dados genéticos sensíveis dos pacientes; em negociações financeiras, pode envolver informações financeiras não divulgadas das empresas. Além disso, os sistemas de IA enfrentam problemas como viés algorítmico e ataques adversariais. Por exemplo, durante o processo de recrutamento, pode haver sugestões salariais injustas para determinados grupos ou uma baixa taxa de precisão na avaliação de cláusulas de indústrias emergentes durante a revisão de documentos legais. Mais grave ainda, hackers podem interferir no julgamento dos sistemas de IA em negociações ao implantar sinais de áudio específicos.

Diante desses desafios, a indústria está explorando várias soluções de segurança. Entre elas, a tecnologia de encriptação totalmente homomórfica (FHE) é considerada uma ferramenta poderosa para resolver os problemas de segurança na era da IA. A FHE permite realizar cálculos em dados encriptados, processando informações sensíveis sem a necessidade de descriptografá-las.

Em termos de dados, a encriptação totalmente homomórfica (FHE) garante que todas as informações inseridas pelo usuário (incluindo características biométricas, voz, etc.) sejam processadas em estado encriptado, mesmo o próprio sistema de IA não consegue decifrar os dados originais. No nível do algoritmo, através da FHE, a "formação de modelos encriptados" pode proteger o processo de decisão da IA contra espionagem. Na colaboração entre múltiplos agentes, a utilização de tecnologia de encriptação por limiar pode evitar que a quebra de um único nó leve a uma fuga de dados global.

Embora a tecnologia de segurança Web3 possa parecer distante para os usuários comuns, ela é crucial para proteger os interesses dos usuários. No setor de blockchain, já existem alguns projetos explorando tecnologias de segurança como identidade descentralizada e modelos de segurança de confiança zero. No entanto, em comparação com outros campos mais populares, os projetos de segurança muitas vezes não são favorecidos pelos especuladores.

À medida que a tecnologia de IA se aproxima cada vez mais do nível de inteligência humana, torna-se cada vez mais importante estabelecer um sistema de defesa robusto. Tecnologias de segurança como a encriptação totalmente homomórfica não apenas resolvem problemas atuais, mas também estabelecem as bases para uma era de IA mais poderosa no futuro. No caminho para a AGI, essas tecnologias de segurança não são mais uma opção, mas uma condição necessária para garantir o funcionamento fiável dos sistemas de IA.