본문 바로가기

KT 에이블스쿨 (6기)104

[딥러닝] 언어모델 이해 (2) Transformer _ 20241105 1. NLP란? (Natural Language Processing : 자연어 처리)   - 컴퓨터가 인간의 언어(자연어)를 이해하고 해석하며, 생성할 수 있도록 하는 기술   - 단일 단어를 개별적으로 이해하는 것 뿐만 아니라, 해당 단어의 맥락을 이해 하는 것  1) 일반적인 NLP 작업문장분류(리뷰 감정파악, 이메일 스팸 여부 감지 등)개체 명(사람, 위치, 조직 등) 인식문장 생성질문에 대한 답변텍스트 번역, 요약    - 기존의 NLP : RNN 기반   - 단점 : 병렬 처리 어려움, 장기 의존성 문제, 확장성 제한   * 장기 의존성이란?예시 : "그녀는 고양이를 사랑한다. 그것은 항상 그녀의 곁에 있다."여기서 "그녀"라는 주어가 문장 앞부분에서 등장하고, "그것"이라는 대명사가 문장 뒷부.. 2024. 11. 5.
[딥러닝] 언어모델 이해 (1) ChatGPT API로 연결하기 _ 20241105 더보기* 과정 목표① OpenAI API를 통해 파이썬 코드로 직접 ChatGPT 질문을 던지고 답변을 받을 수 있다.② 언어 모델에 대한 최신 모델 방향을 파악한다.③ LangChain과 RAG를 이용하여 손쉽게 나만의 챗봇을 만들 수 있다.1. 언어모델 이해 1) API란? - 손님이 점원에게 주문을 하면 점원은 요리사에게 그 주문을 전달 - 요리사는 요리를 만들어 점원에게 전달하면 점원은 요리를 손님에게 가져다 줌. - 여기서 점원이 바로 API - API는 클라이언트에게 요청을 받아 서버로 전달 - 서버는 요청을 처리한 후 결과 데이터를 API에 전달하면 API가 다시 데이터를 클라이언트로 전달   "소프트웨어 간에 데이터를 교환하고 통신할 수 있도록 하는 인터페이스를 제공"  2) API를 사용.. 2024. 11. 5.
[딥러닝] CNN _ 20241104 1. CNN1) Input_shape : 분석 단위인 이미지 한 장의 크기를 설정한다. (픽셀사이즈, 세로, 가로, 채널)    - 여기서 채널은 색을 말함. (흑백 : 1 / 컬러 : 3로 지정)    - 학습시키는 데이터는 모두 같은 사이즈로, 동일하게 맞추어야 한다.    - ex) 사진 60,000 중 고양이 사진 28x28, 3 (컬러) 2) Convolutional Layer(합성곱 레이어) : 필터로 지역(영역)적인 특성(feature)를 뽑는 과정.   - Conv2d   - 해당 레이어를 거치면서 고유한 패턴(엣지, 텍스처 등)을 학습한다.   - ex) 고양이 눈, 귀 등을 탐색하고 특징 맵(feature map)으로 변환한다. 3) Max Pooling Layer(최대 풀링 레이어) .. 2024. 11. 4.
[딥러닝] 딥러닝 모델 저장하기 _ 20241101 1. 최종 모델 저장하기# 딥러닝 모델의 메소드로 .save가 제공됨.model1.save('dyong.keras')# 모델 로딩하기# 모델 로딩하는 함수는 별도로 불러와야 함(load_model)from keras.models import load_modelmodel2 = load_model('dyong.keras') 2. 중간 체크포인트 저장하기cp_path = '/content/{epochs:03d}.keras'mcp = ModelCheckpoint(cp_path, monitor='val_loss', verbose=1, save_best_only)=True)# 학습hist = model.fit(x_train, y_train, epochs=50, validation_split=.2, callback=.. 2024. 11. 1.

티스토리툴바