티스토리 뷰
목차
최근 AI 기술의 범람 속에서 악용의 우려가 있습니다. 대표적으로 딥페이크, 보이스 피싱 등 입니다.
1. AI기술 악용
1) AI 생성 또는 변환한 영상인지 반드시 표시 의무화
- 미국 국방부 (펜타곤)청사 근처에서 대형 폭발 사진 : 미국 주가 일시적으로 하락
- 미국 컴퓨터 바이러스 백신업체인 맥아피 생성형 AI : 3초 목소리 샘플로 복제 가능
- 결국, 미국 조 바이든 대통령 : AI규제 등 행정명령에 서명
2) 가짜 뉴스 배포
- 직접적 손해 입은 사람 : 손해에 대한 민사상 손해배상 책임 (때로는 특별법에 따라 처벌)
- 실존 인물 사진이나 영상 사용 : 초상권 침해에 대한 민사상 손해배상 책임
3) 생성형 AI로 만든 허위조작 정보 신고
- 한국언론진흥재단 : 가짜 뉴스 피해 신고·상담 센터
① 피해상담 (언론중재위원회)
② 인터넷 피해 구조 신고
③ 민·형사상 대응을 위한 법률지식 및 절차 안내
- 한국인터넷자율정책기구 : 가짜 뉴스 신고센터
① 언론사 사칭 허위 게시물 신고
② 허위 게시물 자체 심의
4) 한국언론진흥재단 가짜 뉴스 피해 신고·상담 방법
- 전화 : 02 - 2001 - 7205 ~ 8
- 이메일 : damagerelife@kpf. dr. kr
* 누리집 또는 직접 방문 상담 가능
2. 예방법과 대응방법
1) 생성형 AI 통한 보이스 피싱
- 보이스 피싱 등의 사기경우 : 경찰서 (112), 금융감독원 (1332) 및 금융회사 고객센터에 신고
- 피해금 환급 : 사이버 수사대 방문 사건사고 확인원 발급 후 지급정지 신청한 금융회사에 제출
- KT 음성 AI기술 : 3분 가량 녹음으로 목소리 복사 가능
- SKT : 최근 녹음 없이 기존 인터뷰 영상에서 음성 추출 가능
- 사이버 범죄 대응방안
① 경찰청의 대화형 인공지능 챗봇 서비스 상용화
② 대검찰청의 가짜 음성 탐지 기술 개발
2) 정보의 진위 여부 확인 방법
- 환각 현상 (Hallucination) : 데이터와 알고리즘 으로 단기간 해결 어려움
- 사실확인 (펙트 체크) 습관 중요
- 여러 생성형 AI병행 사용
- 딥페이크 영상 : 매우 정교하므로 비판적으로 수용하는 태도
생성형 AI를 활용한 허위 조작 정보에 속지 않도록 주의를 기울여야 하겠습니다.
감사합니다.
