본문 바로가기

openai

(6)
임베딩, 벡터 임베딩은 컴퓨터가 이해할 수 있는 벡터로 바꾸는 과정이다.  벡터는 유사도를 측정하는데 사용한다. 사과, 바나나는 '맛있는 과일' 이라는 비슷한 특성이 가지기에 벡터 모양이 비슷하다.
RNN, LSTN, 트랜스포머 RNN, LSTN 부터 자연어를 이해하기 시작하는 수준이 되었다.  RNN(순환신경망)은 과거의 입력으로 다음 내용을 예측하는 것  오늘 입력에 어제 입력값도 같이 받는다. 이런식으로 데이터를 연속으로 넣어서 처리한다.  LSTM 은 RNN의 문제를 해결.RNN은 이전걸 기억해도 메모리에 한계가 있다.long-term 메모리를 추가로 가지고 넣는것이 LSTM  트랜스포머는 단어 사이의 관계를 나타낸다.인코더와 디코더인코더는 문장을 고정된 길이의 벡터로 변환한다.결론적으로 보면 문장이 들어오면 그 내용을 하나의 컨텍스트 벡터로 변환하는 것이다. 디코더는 이 컨텍스트 벡터를 받아서 출력 문장을 만들어 낸다.  인코더는 임베딩 과정을 한다.임베딩은 아래 같다 def encode(input_sequence, e..
pytorch로 gpu 사용하기 pip install torch==2.4.0+cu118 torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 https://download.pytorch.org/whl/cu118 download.pytorch.org 이렇게 cuda를 붙여서 설치한 다음 import torchprint(torch.cuda.is_available())import torchdevice = torch.device("cuda" if torch.cuda.is_available() else "cpu")print(device)이 코드로 확인해보자 true라 뜨면 잘 되는것이다.
아마존 AWS에 내 챗봇 올리기 먼저 aws에 로그인 한 후 애플리케이션을 생성한다. 그냥 보이는 버튼을 눌러서 생성을 하면 된다. 터미널 버튼을 눌러서 열고 여기에서 uploadfile을 누른 뒤 올릴 파일을 선택한다. 여기서 gradio를 사용할 것이기에 설치해주자 python -m pip install gradio  주소를 타고 가면 실행이 된다.
카카오 플러스 친구에 내 챗봇 올리 카카오 비즈니스로 들어가자https://business.kakao.com/dashboard/ 카카오비즈니스비즈니스, 톡처럼 쉬워지다.business.kakao.com 여기서 신청을 하면 된다.
Bing api key를 받아서 검색하기 https://learn.microsoft.com/ko-kr/bing/search-apis/bing-web-search/create-bing-search-service-resource Create Bing Search Services Resource - Bing Search ServicesUse Azure Marketplace to sign up for a Bing Search Service and get your key.learn.microsoft.com 여길 통해서 애저 서비스로 이동하자https://portal.azure.com/#home Microsoft Azure portal.azure.com  여기서 구독을 누르고 구독을 만든다. 구독을 만들고 빙 리소스를 검색한다. 여기서 추가 -> bing..