Nosso CEO, Luís Marino, está atualmente em Pequim participando de um evento focado em inteligência artificial (IA) e grandes modelos de linguagem. Durante a visita, ele teve a oportunidade de assistir à apresentação do Dr. Su Li Ya, especialista em segurança de grandes modelos de linguagem do Departamento de Nuvem da Jingdong Technology.
Este artigo detalha as inovações e práticas de segurança do Jingdong Group, uma das maiores empresas não estatais da China, que tem implementado tecnologias avançadas para garantir a segurança e compliance em suas operações de IA.
Quem é a Jingdong Group
Jingdong.com é a maior empresa não estatal da China, com vendas anuais superiores a um trilhão de yuans e mais de 540.000 funcionários.
A empresa possui nove subgrupos focados em negócios tanto para consumidores (2C) quanto para empresas (2B), incluindo varejo, saúde, logística, tecnologia, seguros, desenvolvimento imobiliário e negócios internacionais.
O compromisso do Jingdong Group é usar tecnologia inovadora para tornar o mundo mais produtivo e sustentável, visando se tornar a empresa mais confiável do mundo.
Desafios de segurança no Jingdong Group
Com uma infraestrutura extensa que inclui mais de 1.300 armazéns e mais de 300.000 parceiros, o Jingdong Group enfrenta desafios significativos em termos de segurança.
A empresa gerencia cargas de trabalho que excedem 1 milhão de docker clouds, abrangendo centros de dados comerciais, financeiros e governamentais. Este ecossistema complexo demanda medidas robustas de segurança para proteger dados, sistemas e parcerias. Entre os principais desafios estão:
- Vulnerabilidades e Técnicas de Ataque: Enfrentamento de uma vasta gama de vulnerabilidades e técnicas de ataque que podem comprometer a segurança dos sistemas.
- Compliance e Segurança: Necessidade de garantir que novas aplicações de grandes modelos de linguagem (LLMs) sejam efetivamente avaliadas em termos de segurança sem bloquear a integração de negócios.
- Gestão de Ativos de TI: Proteção de uma vasta infraestrutura de TI que inclui nuvens públicas, privadas e ambientes docker, além de suporte para mais de 300 filiais e 540.000 funcionários.
Práticas de segurança para LLMs
Para enfrentar esses desafios, o Jingdong Group implementou uma série de práticas avançadas de segurança focadas em grandes modelos de linguagem. Essas práticas incluem:
1. Verificação de Compliance
- Plataforma de Detecção Offline: Antes do desenvolvimento, as aplicações de LLMs passam por uma série de testes em uma plataforma dedicada. Esses testes identificam vulnerabilidades e riscos, abordados com base em feedbacks e relatórios de segurança.
- Gateway de Segurança em Tempo Real: Após o lançamento, as aplicações de LLMs são integradas com um gateway de segurança em tempo real. Este gateway monitora continuamente e protege contra ameaças potenciais, garantindo a segurança das operações de negócios.
2. Arquitetura do Sistema de Verificação de Compliance
A arquitetura do sistema de verificação de compliance consiste em três partes principais:
- Módulos de Amostra Maliciosa: Incluem dados de segurança de conteúdo, segurança da informação e conjunto de regras de negócios.
- Treinamento do Modelo de Verificação: Verifica a saída das aplicações de LLMs para garantir conformidade com padrões de segurança.
- Relatórios de Avaliação: Após a verificação, os resultados são revisados manualmente para gerar relatórios de avaliação detalhados.
3. Inovações em Segurança com LLMs
- Execução de IA: Criação de um sistema fechado para verificação automática de ataques e operações de segurança automáticas. O sistema inclui mais de 2.000 scripts de ataque e defesa, reduzindo significativamente o tempo e esforço necessários para operações de segurança diárias.
- IA Auxiliar: Utilização de LLMs para fornecer informações de segurança em tarefas complexas, ajudando na previsão de riscos e fornecimento de soluções de defesa.
Resultados quantitativos
A implementação das práticas de segurança para LLMs trouxe resultados impressionantes:
- Redução do Tempo de Operação: O tempo médio de operação individual foi reduzido de 20 minutos para 2 minutos, uma redução de um fator de 10.
- Inovação Contínua: A segurança em LLMs evoluiu através de competições internas e colaboração com equipes internacionais, tornando-se um projeto de todo o grupo em 2024.
A apresentação do Dr. Su Li Ya demonstrou como o Jingdong Group está na vanguarda da inovação em segurança para grandes modelos de linguagem. Com uma infraestrutura robusta e práticas avançadas de segurança, a empresa continua a proteger seus vastos ativos de TI e parcerias, garantindo conformidade e resiliência contra ameaças.
A participação de Luís Marino neste evento reforça o compromisso da Empregare em aprender e adotar as melhores práticas de segurança em IA, fortalecendo ainda mais suas operações e garantindo a confiança de seus clientes.
Essas inovações e práticas de segurança não só destacam o impacto do Jingdong Group no mercado, mas também ilustram como a empresa está pronta para liderar o caminho em novas tecnologias e soluções de segurança.
A Empregare está empolgada com as possibilidades que essas parcerias e inovações podem trazer, oferecendo aos seus clientes as tecnologias mais avançadas e eficazes disponíveis no mercado.
Gostou do conteúdo? Compartilhe suas opiniões e perguntas nos comentários abaixo – adoramos ouvir de você!
Para não perder nenhuma atualização, inscreva-se em nossa newsletter e receba as últimas novidades diretamente no seu e-mail.
E não se esqueça de nos seguir nas redes sociais para ficar por dentro de tudo o que rola no mundo da Inteligência Artificial e muito mais! Vamos continuar essa conversa juntos! 🚀✨
Siga: Instagram – Youtube – Tik Tok – Linkedin
