S2W, 시큐리티 가드레일로 기업 맞춤 생성형 AI 플랫폼 SAIP 안전성 제고

News

기술 개발 , 성과

S2W, ‘시큐리티 가드레일’ 적용한 기업용 생성형 AI 플랫폼 제공

2024.11.19

⛑ S2W가 시큐리티 가드레일(Security Guardrail) 기술을 구현해 AI 안전성을 강화한 소식을 전합니다!

시큐리티 가드레일은 LLM 개발 및 배포, 운영 과정에서 보안성과 신뢰성을 확보하기 위한 일련의 방어 체계인데요.

엔비디아도 관련 소프트웨어를 출시한 적이 있을 만큼, 최근 생성형 AI 도입으로 인해 발생하는 보안상 문제점을 해결할 수 있는 핵심 기술로 주목받고 있습니다.

S2W 시큐리티 가드레일의 대표적인 기능은 다음과 같습니다.

1️⃣ AI 모델 학습에 사용되는 데이터를 검증 및 정제함으로써, 정보 유출 위험을 최소화하고 데이터 프라이버시(Data Privacy)를 강화합니다.

2️⃣ AI 모델이 주어진 프롬프트에 잘못된 방식으로 반응하도록 유도하는 프롬프트 인젝션(Prompt Injection)을 방어해, 유해하고 부적절한 답변이 도출되지 않도록 미연에 방지합니다.

S2W는 향후에도 조직의 안정적인 내부 데이터 운용을 지원하는 다양한 기술을 지속적으로 개발하고 고도화함으로써, 고객들이 데이터 및 AI의 활용 가치와 유용성을 극대화할 수 있는 환경을 마련해 나갈 계획입니다.

자세한 내용을 아래 기사에서 확인해 보세요.

기업 맞춤 생성형 AI 플랫폼, SAIP 알아보기