개발기록 & 일상노트

📕 서론2025.11.18 - [AI & ML/LLM] - LLM을 활용해 코드리뷰 자동화 챗봇 만들기 - Ollama 활용편 LLM을 활용해 코드리뷰 자동화 챗봇 만들기 - Ollama 활용편📕 서론GitHub에는 diff를 바탕으로 다양한 정보를 얻을 수 있습니다.대표적으로 커밋 내용이 있는데, 이 내용을 자동으로 분석하여코드 리뷰 시간 절감팀 협업에서 변경사항 빠르게 파악문서화record63142.tistory.com 이전에 Ollama를 통해 사전 학습된 거대 언어 모델 LLM을 통해 Git의 diff 정보를 바탕으로 코드리뷰를 해주는 예제를 만들어 보았습니다.하지만 이러한 LLM 모델에는 한계가 존재합니다.⚠ LLM 모델의 한계:- 최신 정보 반영 불가: LLM은 특정 시점까지의 데이터로만 ..

📕 서론ChatGPT, Claude, Gemini 등 AI 챗봇이 큰 화제가 되면서 'LLM'이라는 용어를 자주 접하게 됩니다.LLM은 텍스트 생성, 업무 자동화, 데이터 분석 등 다양한 분야로 확장하여 사용할 수 있습니다.이번 포스팅에서는 LLM이 무엇인지, 어떤 원리인지 설명해보려고 합니다.🧩 1. LLM 정의LLM은 'Large Language Model' 약자로, 한국어로는 거대언어 모델이라고 이야기합니다.수십억에서 수천억 개의 파라미터를 가진 딥러닝 기반의 신경망 모델로, 방대한 텍스트 데이터를 학습하여자연어를 이해하고 생성하는 AI 시스템입니다.🧩 2. LLM의 작동 원리LLM의 핵심 기술은 트랜스포머(Transformer) 아키텍처입니다.1) 트랜스포머의 등장2017년 구글이 발표한 A..

📕 서론이전 글에서 RNN기반의 기본 오타 교정기를 구현하여 GRU 구조의 동작 원리를 다뤄 보았습니다.이번 글에서는 단방향 RNN의 한계를 극복하고, 맥락 이해 능력을 강화하기 위한 커스터마이징을 수행해보려고 합니다.특히 Bidirectional GRU를 적용하여 문맥 기반 오타 교정 정확도 향상을 목표로 진행해보겠습니다.🎯 개선 목표문맥 인식 향상: 단방향 GRU의 한계를 극복하기 위해 Bidrectional RNN 적용오류 원인 분석: 입력 Tensor, 예측 Tensor, Attention을 시각화해 오인식 요인 분석출력 길이 안정화: Input보다 짧은 Output 방지를 위해 EOS 조정 로직 추가1. 단방향 RNN의 한계와 Bidirectional RNN의 필요성위 그림과 같이 기존 단방..

📕 서론2025.10.24 - [AI & ML/오타교정기] - [NLP 기초] RNN(순환신경망)이란? - 오타 교정기 아이디어로 이해하기 [NLP 기초] RNN(순환신경망)이란? - 오타 교정기 아이디어로 이해하기📕 서론OCR(문자인식)을 수행하다 보면 오인식(오타)이 발생하는 경우가 많습니다.예를 들어 "홍길돞" 같은 결과가 나왔을 때, 사람이 직접 교정하지 않아도 AI가 문맥상 맞는 단어로 수정해 준다record63142.tistory.com 앞선 글에서 RNN과 GRU의 구조를 살펴봤습니다.이번 포스팅에서는 이 구조를 실제 응용해서 오타를 교정해 주는 프로토타입 모델을 만들어 보려고 합니다.딥러닝 모델이 단순히 단어를 예측하는 수준을 넘어, 사람처럼 "오타가 포함된 문장을 읽고 교정하는" 능력..

📕 서론OCR(문자인식)을 수행하다 보면 오인식(오타)이 발생하는 경우가 많습니다.예를 들어 "홍길돞" 같은 결과가 나왔을 때, 사람이 직접 교정하지 않아도 AI가 문맥상 맞는 단어로 수정해 준다면 얼마나 편리할까?라는 아이디어에서 출발해, 번역기 모델의 구조(Sequence-to-Sequece)를 활용하여 오타 교정 모델을 만들어 보려고 합니다.그 시작점으로, 오늘은 이 교정기의 핵심이 되는 알고리즘인 "RNN(Recurrent Newral Network)"과 GRU(Gated Recurrent Unit) 구조에 대해 포스팅해보겠습니다.1. RNN(Recurrent Neural Network) - 순환 구조의 핵심RNN은 순환신경망으로, 이전 시점의 출력이 다음 시점의 입력으로 다시 들어가는 구조를 ..