AI 보안

WIKI Security 기업부설 연구소는 취약점 분석과 공격 가능성 예측 등 보안 문제 해결을 위해 AI 기술을 지속적으로 연구 및 적용하고 있습니다. 이 중 공익성과 실무 활용성이 높은 연구 결과를 선별하여 공개합니다. 이 메뉴에서는 실제 보안 데이터를 기반으로 수행한 AI 보안 연구 결과를 다룸으로써 AI를 보안 실무에 활용 가능한 기술로 제시하고, 책임 있는 연구 공개를 이어가고 있습니다.

자연어처리(NLP) 모델 총정리 요약표(HF-based) – Video Type Models
NameFull NameArchitectureBase ModelDevelopedTraining DatasetLib. & FrameworkUse CasesHF URLGithhub URLTimeSformerTimeSformer (Time-Space Transformer)TransformerVision Transformer (ViT)2021Evaluated on datasets like Kinetics-400 and Kinetics-600PyTorchVideo classification …
/
자연어처리(NLP) 모델 총정리 요약표(HF-based) – Audio Type Models
NameFull NameArchitectureBase ModelDevelopedTraining DatasetLib. & FrameworkUse CasesHF URLGithhub URLAudio Spectrogram TransformerAudio Spectrogram TransformerTransformerViT2021AudioSetPyTorch, Hugging Face TransformersAudio classification, sound event detectionhttps://huggingface.co/docs/transformers/model_doc/audio-spectrogram-transformerhttps://github.com/YuanGongND/astBarkBarkGPT-like, …
/
자연어처리(NLP) 모델 총정리 요약표(HF-based) – Vision Type Models
NameFull NameArchitectureBase ModelDevelopedTraining DatasetLib. & FrameworkUse CasesHF URLGithhub URLBEiTBidirectional Encoder representation from Image TransformersVision TransformerViT2021ImageNet-21k, ImageNet-1kPyTorch, Hugging Face TransformersImage classification, …
/
자연어처리(NLP) 모델 총정리 요약표(HF-based) – Text Type Models
NameFull NameArchitectureBase ModelDevelopedTraining DatasetLib. & FrameworkUse CasesHF URLGithhub URLALBERTA Lite BERTTransformer-based sequence-to-sequenceBERT2019BookCorpus, English WikipediaTensorFlow, PyTorchNatural Language Understandinghttps://huggingface.co/albert-base-v2https://github.com/google-research/albertBambaBambaTransformerGPT-22023Bambara language corpusPyTorchBambara language …
/
OWASP Top10 for LLM Applicationd의 세부 테스트 케이스
GenAI(LLM) Red Team Service를 준비하면서, OWASP Top10 for LLM 기반의 세부 점검 케이스들을 정리하였습니다 …
/
Prompt Injection 테스트를 위한 Prompt유형과 속성 이해
GenAI(LLM) 취약점 중의 하나인 Prompt Injection Attack은 OWASP Top10 for LLM Application의 첫 번째로 등장할 만큼 다양한 공격기법이 존재하는 반면에, …
/
대표적인 GenAI인 OpenAI ChatGPT의 취약점(현재 Zero-day)
최근 국내 금융회사들이 GenAI(생성형AI, LLM)구축이 많이 이뤄지고 있다. 그러나 LLM의 보안 취약점에 대해서는 개인정보 유노출 정도만 언급되고 있을 뿐, OWASP …
/
RAG(Retrieval Augmented Generation, 검색 증강 생성) 시스템 구축 시 위험요소와 고려해야 하는 보안
RAG 개요 RAG는 GenAI(LLM)을 구축할때, PEFT와 함께 필수 요소로 사용되고 있다. RAG는 표준 LLM 시스템의 한계를 극복하기 위해 개발된 기술로써, …
/
OWASP Top10 for LLM Application 한글 번역(WiKi Security R&D Center)
owasp-top-10-for-llm-applications-v1_1_kr_ (1) …
/

로그인

가입
가입