AI, NLP를 연구하는 엔지니어

본문 바로가기

AI

ROS2+SLAM AI로봇랩 1강) Windows WSL2에 ROS2 설치하기 Frenz AI로봇랩에서 ROS2 강의영상 입니다. ROS의 이론과 설치 (Windows WSL2)에 대해 다룹니다. https://youtu.be/AUSOnvOTt2s ROS2는 윈도우에서도 가능하다! ROS2를 윈도우에 설치하기 위한 3가지 방법 그냥 Window Window+wsl2 (!!) Window+Docker Window의 wsl2를 이용해서 ROS2를 설치해보자 윈도우에서 리눅스를 사용할 수 있게 해주는 WSL2 버전이 정식으로 출시 WSL은 Windows Subsystem for Linux 2의 줄임말 윈도우의 가상화 기능을 활용해서 윈도우 위에서 리눅스를 사용 가능 단순히 가상머신으로 리눅스를 사용할 수 있는 것이 아님 윈도우 시스템과 통합되어 마치 하나의 머신처럼 자연스럽게 리눅스를 ..
데이터 분석 이번주 로또번호는? 로또번호 데이터 분석 가끔 지인들과 로또가 되면 뭐하지?라는 말을 하곤 한다. 사실 모두들 로또가 되면 뭐하고 뭐하고 뭐해야지~ 하는 생각을 해봤을 거다ㅎㅎ 블로그들을 보다 아이디어를 얻어 재미 삼아 역대 로또번호들을 분석해봤다. 아래 url을 통해 시작했고 유사한 분석을 하신 분이 있다, 밑에 reference에 남기겠다. 코드는 깃헙에서 확인할 수 있다. https://github.com/keep-steady/bigdata_analysis/tree/master 1) 파이썬을 이용해 나눔 로또 API로 역대 로또번호들을 몽땅 가져온다 2) 이를 pandas를 이용하여 분석한다!! 1. 선언 우선 각종 library들을 import 한다. label은 로또를 긁어왔을 시 설명이다. from urllib.request impo..
OSINT OSINT day2-1. 딥웹 onion 찾기 & 아고라 살펴보기 딥웹의 onion을 찾고 아고라 살펴보기다크웹, 딥웹이라고 불리는 어둠의 경로에 있는 사이트를 들어가보자.딥웹은 오픈웹의 반대말로 일반인이 쉽게 접근할 수 없다.onion은 딥웹의 주소라고 생각하면 된다. ex)딥웹이 있는 대부분의 사이트들은 ~~.onion 형식이다.본 글에서는 한국어로 된 딥웹, 아고라, 하이코리아, 히든위키코리아, 동부전선을 들어가는 법을 알아보자.이들 사이트는 마약, 포르노, 밀매 등의 정보가 있다. ## 1) 아고라 onion 찾기1. 칼리리눅스 로그인 2. 구글에서 "아고라 onion" 으로 검색 - http://c2djzrn6qx6kupkn.onion 3. 리눅스 토르 브라우저에 위 사이트 접속 - 아고라 : 익명 보드, 한국어 최대 다크웹 사이트임 - 하이코리아, 히든위키 ..
자연어처리(NLP) GPT3 1편) GPT3 이론 파헤치기 최근 인공지능 기반 자연어처리는 거대 언어모델 개발로 큰 성공을 거두고 있습니다. 오늘은 GPT3에 대해 알아봅시다. 1. 언어모델(Language Model) 언어모델은 크게 Auto encoding 모델과 Auto regressive 모델 두 종류로 나눌 수 있습니다. 1.1. Auto-Encoding Auto-Encoding 모델은 임의로 문장에서 빈칸([MASK])을 만든 후 주변 단어를 통해 문맥상 빈칸을 맞추는 방식입니다.을 위한 BERT, Electra, RoBerta가 이 방식에 속합니다. 동일 문장이라도 random masking 위치에 따라 서로 다른 정보 학습할 수 있고, Downstream task에 Fine-tuning 시 [MASK] 토큰이 등장하지 않으므로 Pre-trainin..
ROS2+SLAM AI로봇랩 4강) Cartographer SLAM with ROS2 on Omorobot Frenz AI로봇랩에서 진행한 AI로봇랩 2기 4강 내용입니다. 3강: https://keep-steady.tistory.com/46 내용 - Lidar SLAM at JetsonNano with ROS2 (ROS2를 이용하여 JetsonNano에서 라이다 SLAM) 참고 블로그: https://omorobot.com/docs/slam-%ed%95%98%ea%b8%b0-mapping/ 참고 영상: https://www.youtube.com/watch?v=fYa7R2koXPs&t=13shttps://omorobot.com/docs/ros2-teleop-%eb%aa%85%eb%a0%b9%ec%9c%bc%eb%a1%9c-%ec%a1%b0%ec%a2%85%ed%95%98%ea%b8%b0/ 1) SLAM map..
데이터 분석 5분만에 끝장내는 AutoML(h20) 사용법 5분만에 H2O AutoML을 끝장내보자. 사실 5분도 안걸린다. 구글 Colab에서 바로 사용할 수 있다. Github 주소 : github.com/keep-steady/automl_h20_practice_python 실습 colab 주소 : colab.research.google.com/drive/1oRIdDWNL_NMdwmGmrS8rK0KiJOdtt5MH?usp=sharing => colab을 연 후 아래 그림과 같이 data.csv를 기본 경로에 업로드 AI프렌즈 김** 선생님께서 아주 좋은 데이터를 공유해주셨다. 여러 가지 feature를 이용하여 서류 합불을 예측할 수 있는 데이터이다. 최근 AI프렌즈에선 AutoML에 관심 있는 사람들이 많다. 나는 작년 NAS 논문 몇 개 읽어 보고 코드 ..
자연어처리(NLP) 서브워드 분절하기(sentencepiece, bpe, sub-word, bpe-droupout) 자연어처리를 오랫동안 하다보니 나만의 한글 데이터셋에 Bert, Transformer 등 새로운 모델의 입력을 만들어야 할 일이 많다. 한국어 자연어처리를 하는사람들이라면 매번 데이터셋에 맞는 sub-word 모델을 학습하고 vocab 사전을 만들어야한다 본 글에서는 내 데이터를 서브워드 분절하는 방법을 다루고자 한다 서브워드를 만드는 알고리즘은 사실 너무 많다. 1) 구글의 sentencepiece 2) opennmt 3) rust로 짜여 속도가 빠른 huggingface의 tokenizers 4) bpe 기법을 고안한 rsennrich의 코드 본 글에서는 구글의 sentencepiece 사용법을 다루고 다음글에서 huggingface의 tokenizers와 비교해 보려 한다 자연어 처리 시 모든 단어..

티스토리툴바