AI, NLP를 연구하는 엔지니어

본문 바로가기

AI

자연어처리(NLP) GPT3 1편) GPT3 이론 파헤치기 최근 인공지능 기반 자연어처리는 거대 언어모델 개발로 큰 성공을 거두고 있습니다. 오늘은 GPT3에 대해 알아봅시다. 1. 언어모델(Language Model) 언어모델은 크게 Auto encoding 모델과 Auto regressive 모델 두 종류로 나눌 수 있습니다. 1.1. Auto-Encoding Auto-Encoding 모델은 임의로 문장에서 빈칸([MASK])을 만든 후 주변 단어를 통해 문맥상 빈칸을 맞추는 방식입니다.을 위한 BERT, Electra, RoBerta가 이 방식에 속합니다. 동일 문장이라도 random masking 위치에 따라 서로 다른 정보 학습할 수 있고, Downstream task에 Fine-tuning 시 [MASK] 토큰이 등장하지 않으므로 Pre-trainin..
OSINT OSINT day2-1. 딥웹 onion 찾기 & 아고라 살펴보기 딥웹의 onion을 찾고 아고라 살펴보기다크웹, 딥웹이라고 불리는 어둠의 경로에 있는 사이트를 들어가보자.딥웹은 오픈웹의 반대말로 일반인이 쉽게 접근할 수 없다.onion은 딥웹의 주소라고 생각하면 된다. ex)딥웹이 있는 대부분의 사이트들은 ~~.onion 형식이다.본 글에서는 한국어로 된 딥웹, 아고라, 하이코리아, 히든위키코리아, 동부전선을 들어가는 법을 알아보자.이들 사이트는 마약, 포르노, 밀매 등의 정보가 있다. ## 1) 아고라 onion 찾기1. 칼리리눅스 로그인 2. 구글에서 "아고라 onion" 으로 검색 - http://c2djzrn6qx6kupkn.onion 3. 리눅스 토르 브라우저에 위 사이트 접속 - 아고라 : 익명 보드, 한국어 최대 다크웹 사이트임 - 하이코리아, 히든위키 ..
ROS2+SLAM AI로봇랩 2강) ROS2 on Ubuntu20.04 at JetsonNan Frenz AI로봇랩에서 진행한 AI로봇랩 2기 2강 내용입니다. 내용 - Ubuntu 20.04 버전에 ROS2를 설치한다 (JetsonNano or PC) 참고 블로그: https://omorobot.com/docs/r1mini-pro/ Ubuntu 20.04ver SD카드 만들기 ROS2는 Ubuntu 20.XX 이상 버전에서 설치가 가능하다. 하지만 JetsonNano에서 공식적으로 지원하는 Jetpack은 Ubuntu 18.04v로 되어있으므로 공식 OS를 사용할 수 없다. 아직까진 JetsonNano에 보통 Jetpack에 ROS1 melodic 버전을 설치하는 것이 일반적이다. ROS2의 인기로 ROS2를 JetsonNano에 설치하기 위해 억지로 Xubuntu 20.04v를 사용한다. 공식..
ROS2+SLAM AI로봇랩 1강) Windows WSL2에 ROS2 설치하기 Frenz AI로봇랩에서 ROS2 강의영상 입니다. ROS의 이론과 설치 (Windows WSL2)에 대해 다룹니다. https://youtu.be/AUSOnvOTt2s ROS2는 윈도우에서도 가능하다! ROS2를 윈도우에 설치하기 위한 3가지 방법 그냥 Window Window+wsl2 (!!) Window+Docker Window의 wsl2를 이용해서 ROS2를 설치해보자 윈도우에서 리눅스를 사용할 수 있게 해주는 WSL2 버전이 정식으로 출시 WSL은 Windows Subsystem for Linux 2의 줄임말 윈도우의 가상화 기능을 활용해서 윈도우 위에서 리눅스를 사용 가능 단순히 가상머신으로 리눅스를 사용할 수 있는 것이 아님 윈도우 시스템과 통합되어 마치 하나의 머신처럼 자연스럽게 리눅스를 ..
ROS2+SLAM AI로봇랩 3강) ROS2로 원격 로봇 제어하기 Frenz AI로봇랩에서 진행한 AI로봇랩 2기 3강 내용입니다. 내용 - ROS2를 이용하여 PC에서 원격으로 로봇(시뮬레이션&실제)을 제어 참고 https://omorobot.com/docs/ros2-teleop-%eb%aa%85%eb%a0%b9%ec%9c%bc%eb%a1%9c-%ec%a1%b0%ec%a2%85%ed%95%98%ea%b8%b0/ ROS2: Teleop 명령으로 조종하기 - OMOROBOT 터미널을 열고 ssh를 통해 r1mini에 (ip가 192.168.1.2인 경우)접속하여 다음을 입력합니다. 이제 원격 PC에서 teleop keyboard를 실행하기 위해 다음을 입력합니다. 이제 아래와 같은 화면이 나타납니다. 키 omorobot.com ROS2: Teleop 명령으로 로봇 제어하..
ROS2+SLAM AI로봇랩 4강) Cartographer SLAM with ROS2 on Omorobot Frenz AI로봇랩에서 진행한 AI로봇랩 2기 4강 내용입니다. 3강: https://keep-steady.tistory.com/46 내용 - Lidar SLAM at JetsonNano with ROS2 (ROS2를 이용하여 JetsonNano에서 라이다 SLAM) 참고 블로그: https://omorobot.com/docs/slam-%ed%95%98%ea%b8%b0-mapping/ 참고 영상: https://www.youtube.com/watch?v=fYa7R2koXPs&t=13shttps://omorobot.com/docs/ros2-teleop-%eb%aa%85%eb%a0%b9%ec%9c%bc%eb%a1%9c-%ec%a1%b0%ec%a2%85%ed%95%98%ea%b8%b0/ 1) SLAM map..
음성인식 바이든? 날리면? 주파수 기반 음성처리 노이즈 제거 동영상은 영상과 음성으로 이루어져 있다. 영상은 두 눈으로 명확히 보이므로 분석이 어렵지 않으나, 음성은 여러 잡음과 multi-speaker 문제로 분석이 어렵다. 본 글에서는 음성을 분석하여 노이즈를 제거하고 속도를 빠르거나 느리게 하는 실습을 진행한다. 음성은 아래와 같이 시간영역에서 파형으로 이뤄져 있다. 그리고 이 파형은 실제 우리가 원하는 음성과, 잡음으로 이뤄져 있다. 우리는 잡음을 제거하고, 원하는 음성 부분만 듣고 싶다. 실습 순서는 아래와 같다. 1) 유튜브에서 원하는 영상을 다운로드한다 2) 영상에서 음성을 추출한다 3) 전체 음성에서 원하는 부분만 자른다 4) 주파수 영역에서 음성을 분석한다 5) 주파수 변환(mel-spectogram)을 그래프로 확인한다 6) 음성을 빠르거나 느리..

티스토리툴바