Nosso CEO, Luís Marino, está atualmente em Pequim participando de um evento focado em inteligência artificial (IA) e grandes modelos de linguagem. Durante a visita, ele teve a oportunidade de assistir à apresentação do Dr. Su Li Ya, especialista em segurança de grandes modelos de linguagem do Departamento de Nuvem da Jingdong Technology.

Este artigo detalha as inovações e práticas de segurança do Jingdong Group, uma das maiores empresas não estatais da China, que tem implementado tecnologias avançadas para garantir a segurança e compliance em suas operações de IA.

Quem é a Jingdong Group

Jingdong.com é a maior empresa não estatal da China, com vendas anuais superiores a um trilhão de yuans e mais de 540.000 funcionários.

A empresa possui nove subgrupos focados em negócios tanto para consumidores (2C) quanto para empresas (2B), incluindo varejo, saúde, logística, tecnologia, seguros, desenvolvimento imobiliário e negócios internacionais.

O compromisso do Jingdong Group é usar tecnologia inovadora para tornar o mundo mais produtivo e sustentável, visando se tornar a empresa mais confiável do mundo.

Desafios de segurança no Jingdong Group

Com uma infraestrutura extensa que inclui mais de 1.300 armazéns e mais de 300.000 parceiros, o Jingdong Group enfrenta desafios significativos em termos de segurança.

A empresa gerencia cargas de trabalho que excedem 1 milhão de docker clouds, abrangendo centros de dados comerciais, financeiros e governamentais. Este ecossistema complexo demanda medidas robustas de segurança para proteger dados, sistemas e parcerias. Entre os principais desafios estão:

  • Vulnerabilidades e Técnicas de Ataque: Enfrentamento de uma vasta gama de vulnerabilidades e técnicas de ataque que podem comprometer a segurança dos sistemas.
  • Compliance e Segurança: Necessidade de garantir que novas aplicações de grandes modelos de linguagem (LLMs) sejam efetivamente avaliadas em termos de segurança sem bloquear a integração de negócios.
  • Gestão de Ativos de TI: Proteção de uma vasta infraestrutura de TI que inclui nuvens públicas, privadas e ambientes docker, além de suporte para mais de 300 filiais e 540.000 funcionários.

Práticas de segurança para LLMs

Para enfrentar esses desafios, o Jingdong Group implementou uma série de práticas avançadas de segurança focadas em grandes modelos de linguagem. Essas práticas incluem:

1. Verificação de Compliance

  • Plataforma de Detecção Offline: Antes do desenvolvimento, as aplicações de LLMs passam por uma série de testes em uma plataforma dedicada. Esses testes identificam vulnerabilidades e riscos, abordados com base em feedbacks e relatórios de segurança.
  • Gateway de Segurança em Tempo Real: Após o lançamento, as aplicações de LLMs são integradas com um gateway de segurança em tempo real. Este gateway monitora continuamente e protege contra ameaças potenciais, garantindo a segurança das operações de negócios.

2. Arquitetura do Sistema de Verificação de Compliance

A arquitetura do sistema de verificação de compliance consiste em três partes principais:

  • Módulos de Amostra Maliciosa: Incluem dados de segurança de conteúdo, segurança da informação e conjunto de regras de negócios.
  • Treinamento do Modelo de Verificação: Verifica a saída das aplicações de LLMs para garantir conformidade com padrões de segurança.
  • Relatórios de Avaliação: Após a verificação, os resultados são revisados manualmente para gerar relatórios de avaliação detalhados.

3. Inovações em Segurança com LLMs

  • Execução de IA: Criação de um sistema fechado para verificação automática de ataques e operações de segurança automáticas. O sistema inclui mais de 2.000 scripts de ataque e defesa, reduzindo significativamente o tempo e esforço necessários para operações de segurança diárias.
  • IA Auxiliar: Utilização de LLMs para fornecer informações de segurança em tarefas complexas, ajudando na previsão de riscos e fornecimento de soluções de defesa.

Resultados quantitativos

A implementação das práticas de segurança para LLMs trouxe resultados impressionantes:

  • Redução do Tempo de Operação: O tempo médio de operação individual foi reduzido de 20 minutos para 2 minutos, uma redução de um fator de 10.
  • Inovação Contínua: A segurança em LLMs evoluiu através de competições internas e colaboração com equipes internacionais, tornando-se um projeto de todo o grupo em 2024.

A apresentação do Dr. Su Li Ya demonstrou como o Jingdong Group está na vanguarda da inovação em segurança para grandes modelos de linguagem. Com uma infraestrutura robusta e práticas avançadas de segurança, a empresa continua a proteger seus vastos ativos de TI e parcerias, garantindo conformidade e resiliência contra ameaças.

A participação de Luís Marino neste evento reforça o compromisso da Empregare em aprender e adotar as melhores práticas de segurança em IA, fortalecendo ainda mais suas operações e garantindo a confiança de seus clientes.

Essas inovações e práticas de segurança não só destacam o impacto do Jingdong Group no mercado, mas também ilustram como a empresa está pronta para liderar o caminho em novas tecnologias e soluções de segurança.

A Empregare está empolgada com as possibilidades que essas parcerias e inovações podem trazer, oferecendo aos seus clientes as tecnologias mais avançadas e eficazes disponíveis no mercado.

Gostou do conteúdo? Compartilhe suas opiniões e perguntas nos comentários abaixo – adoramos ouvir de você!

Para não perder nenhuma atualização, inscreva-se em nossa newsletter e receba as últimas novidades diretamente no seu e-mail.

E não se esqueça de nos seguir nas redes sociais para ficar por dentro de tudo o que rola no mundo da Inteligência Artificial e muito mais! Vamos continuar essa conversa juntos! 🚀✨

Siga: Instagram – Youtube – Tik Tok – Linkedin