본문 바로가기

분류 전체보기

(44)
GPT-2 (Generative Pre-Training 2) 소설쓰는 인공지능!본 글에서는 소설쓰는 인공지능인 GPT-2 모델의 사용법에 대해 알아보고직접 인공지능이 소설을 쓰게 해본다. 최근 인공지능의 자연어 처리에서 가장 화제가 되고있는건Bert, GPT-2, Transformer 이다. Transformer : 번역(Neural Machine Translation)Bert : 양방향 언어모델GPT-2 : 단방향 언어모델 본 글에서는 파이토치를 이용한 GPT-2(Generative Pre-Training-2)에 대해 다룬다. 보통 Tensorflow로 학습된 모델을 convert_tf_checkpoint_to_pytorch_custom.py 을 이용하여 파이토치 버전으로 바꾼다.하지만 이미 파이토치 버전으로 변환해 놓은 GPT2 pre-trained model..
OSINT day2-2. 딥웹 아고라 빅데이터 분석 가정 : 딥웹을 모니터링하는 금융감독원이라 해보자 ## 1) 아고라 크롤링 ## 2) 데이터 정제 ## 3) 엑셀에 시각화 ## 4) 정리 vim(리눅스 text view 프로그램 설치, vi보다 훨씬 이쁘고 보기 편하다) >> sudo apt-get install vim 으로 vim을 깔고 1. 아고라 크롤링 a) 코드 분석 - vim로 들어가보면 아래 코드와 같다 >> vim Desktop/Agora BigData/all_download_from_agora.py import urllib, os i = 0 while i > python all_download_from_agora.py - 1115개의 html 파일이 다음 이름으로 저장된다. "number.html" (number- 1~1115) - 만약..
OSINT day2-1. 딥웹 onion 찾기 & 아고라 살펴보기 딥웹의 onion을 찾고 아고라 살펴보기다크웹, 딥웹이라고 불리는 어둠의 경로에 있는 사이트를 들어가보자.딥웹은 오픈웹의 반대말로 일반인이 쉽게 접근할 수 없다.onion은 딥웹의 주소라고 생각하면 된다. ex)딥웹이 있는 대부분의 사이트들은 ~~.onion 형식이다.본 글에서는 한국어로 된 딥웹, 아고라, 하이코리아, 히든위키코리아, 동부전선을 들어가는 법을 알아보자.이들 사이트는 마약, 포르노, 밀매 등의 정보가 있다. ## 1) 아고라 onion 찾기1. 칼리리눅스 로그인 2. 구글에서 "아고라 onion" 으로 검색 - http://c2djzrn6qx6kupkn.onion 3. 리눅스 토르 브라우저에 위 사이트 접속 - 아고라 : 익명 보드, 한국어 최대 다크웹 사이트임 - 하이코리아, 히든위키 ..
OSINT day1. 실험 셋팅, Tor(토르) 사용법, 아바타 계정 생성 실험 셋팅 및 Tor 사용(윈도우, LINUX)Tor 윈도우, LINUX 버전 사용해보기## 1) 실험 셋팅## 2) Tor 윈도우 사용법## 3) Tor 에서 아바타 만들기## 4) Tor 리눅스 ## 1) 실험 셋팅1. VMWARE 설치한다 >> OSINT\다운로드\VMware-player-12.5.9-7535481 2. VMWARE에 윈도우 10, 리눅스 image 설치 - 윈도우 10 설치, 우클릭-VMWARE >> OSINT\다운로드\MSEdge.Win10.VMWare\MSEdge.Win10.VMWare - 리눅스 설치 >> OSINT\05_OSINT Linux Image- VMWARE 왼쪽 - Player 클릭 - manage - vmwaretools 설치 (윈도우에서 드래그 기능 등등 사용 ..