AI 리서치 센터

WiKi Security AI 리서치 센터는 안전한 인공지능 활용을 위한 보안 체계와 가이드를 연구합니다. AI 모델 도입 시 발생할 수 있는 데이터 유출이나 취약점 공격을 예방하고, 기업이 AI를 신뢰하며 사용할 수 있는 실무적인 보안 기준을 제시합니다.

자연어처리(NLP) 모델 총정리 요약표(HF-based) – Video Type Models
NameFull NameArchitectureBase ModelDevelopedTraining DatasetLib. & FrameworkUse CasesHF URLGithhub URLTimeSformerTimeSformer (Time-Space Transformer)TransformerVision Transformer (ViT)2021Evaluated on datasets like Kinetics-400 and Kinetics-600PyTorchVideo classification …
/
자연어처리(NLP) 모델 총정리 요약표(HF-based) – Audio Type Models
NameFull NameArchitectureBase ModelDevelopedTraining DatasetLib. & FrameworkUse CasesHF URLGithhub URLAudio Spectrogram TransformerAudio Spectrogram TransformerTransformerViT2021AudioSetPyTorch, Hugging Face TransformersAudio classification, sound event detectionhttps://huggingface.co/docs/transformers/model_doc/audio-spectrogram-transformerhttps://github.com/YuanGongND/astBarkBarkGPT-like, …
/
자연어처리(NLP) 모델 총정리 요약표(HF-based) – Vision Type Models
NameFull NameArchitectureBase ModelDevelopedTraining DatasetLib. & FrameworkUse CasesHF URLGithhub URLBEiTBidirectional Encoder representation from Image TransformersVision TransformerViT2021ImageNet-21k, ImageNet-1kPyTorch, Hugging Face TransformersImage classification, …
/
자연어처리(NLP) 모델 총정리 요약표(HF-based) – Text Type Models
NameFull NameArchitectureBase ModelDevelopedTraining DatasetLib. & FrameworkUse CasesHF URLGithhub URLALBERTA Lite BERTTransformer-based sequence-to-sequenceBERT2019BookCorpus, English WikipediaTensorFlow, PyTorchNatural Language Understandinghttps://huggingface.co/albert-base-v2https://github.com/google-research/albertBambaBambaTransformerGPT-22023Bambara language corpusPyTorchBambara language …
/
OWASP Top10 for LLM Applicationd의 세부 테스트 케이스
GenAI(LLM) Red Team Service를 준비하면서, OWASP Top10 for LLM 기반의 세부 점검 케이스들을 정리하였습니다 …
/
Prompt Injection 테스트를 위한 Prompt유형과 속성 이해
GenAI(LLM) 취약점 중의 하나인 Prompt Injection Attack은 OWASP Top10 for LLM Application의 첫 번째로 등장할 만큼 다양한 공격기법이 존재하는 반면에, …
/
대표적인 GenAI인 OpenAI ChatGPT의 취약점(현재 Zero-day)
최근 국내 금융회사들이 GenAI(생성형AI, LLM)구축이 많이 이뤄지고 있다. 그러나 LLM의 보안 취약점에 대해서는 개인정보 유노출 정도만 언급되고 있을 뿐, OWASP …
/
RAG(Retrieval Augmented Generation, 검색 증강 생성) 시스템 구축 시 위험요소와 고려해야 하는 보안
RAG 개요 RAG는 GenAI(LLM)을 구축할때, PEFT와 함께 필수 요소로 사용되고 있다. RAG는 표준 LLM 시스템의 한계를 극복하기 위해 개발된 기술로써, …
/
OWASP Top10 for LLM Application 한글 번역(WiKi Security R&D Center)
owasp-top-10-for-llm-applications-v1_1_kr_ (1) …
/
LLM(GenAI, 생성형AI) Application 보안을 위한 OWASP Top10 for LLM Application 요약 설명
OWASP Top 10 for LLM Application LLM01. Prompt Injection (프롬프트 주입)
: 악의적인 사용자가 LLM(GenAI)을 조작하여 시스템 프롬프트를 재정의하거나 외부 입력을 …
/

로그인

가입
가입