전체 글166 [React + Flask] Ollama를 활용한 로컬 LLM 기반 챗봇 Back-end (Flask)1. OpenAI의 chat completions API 사용 OpenAI용으로 구축된 기존 툴을 Ollam를 통해서도 이용 가능from openai import OpenAI# Ollama를 OpenAI 라이브러리로 사용하기 위한 설정client = OpenAI( base_url = "http://localhost:11434/v1/chat/completions", # Ollama 서버 주소 api_key= "ollama", # required, but unused)MODEL_NAME = "gemma:7b" # 사용 모델명def chat_completion_with_ollama(question, stream=True): # 메시지 구성: system + user.. 2025. 7. 16. [Ollama] 설치 및 실행, Flask에서 API 요청하기 Ollama란?로컬에서 LLM을 실행할 수 있게 해주는 오픈소스 도구로써 자체적으로 모델을 설치하고 실행한다.CLI 또는 HTTP API를 통해 모델과 상호작용할 수 있다. 모델 설치 및 실행모델 설치ollama pull [모델명] 모델 실행ollama run [모델명]모델을 실행하고 대화형 CLI로 진입(만약 모델이 설치되어 있지 않은 상태에서 실행 시 자동으로 다운로드 후 실행) 사실 ollama run은 내부적으로 서버와 API를 자동 실행한다.추가 설정 없이 run을 실행하면 Ollama는 내부적으로 자동으로 아래 명령을 실행해 로컬 서버를 띄운다.ollama serve즉, 백그라운드에서 작동하는 HTTP 서버이고, 이를 통해 다른 애플리케이션에서 HTTP 요청으로 모델 사용이 가능하다.(하지만,.. 2025. 6. 12. 브라우저 동작 원리 1. 웹 브라우저 구성 요소사용자 인터페이스(User Interface)사용자가 브라우저와 상호 작용하는 부분- 브라우저 상단의 앞으로/뒤로가기/새로고침 버튼, 검색창 등 브라우저 프로그램 자체의 GUI를 구성하는 부분- 사용자가 원하는 웹 페이지 요청, 브라우저 기능 제어브라우저 엔진(Browser Engine)사용자 인터페이스와 렌더링 엔진 사이에서 동작을 제어하는 핵심 엔진- 웹 페이지를 요청하고, 렌더링 엔진에 필요한 데이터(HTML, CSS, JavaScript)를 전달하는 역할 ex) 사용자 인터페이스의 뒤로 가기 버튼 클릭 시 렌더링 엔진에 전달 - 브라우저라는 프로그램의 비즈니스 로직, 핵심 중추 역할- Data Storage를 참조하며 로컬에 데이터를 쓰고 읽으면서 다양한 작업을 함 .. 2025. 5. 26. [Flask] 가상 환경 생성 및 실행 (w. React 연동) 📁 project├── 📁 client (React) └── 📁 server (Flask) 1. Flask 프로젝트 생성 1-1. Flask 프로젝트 폴더 생성 server 디렉토리 안에 Flask 프로젝트 폴더 생성mkdir flask-servercd flask-server 1-2. 가상 환경 생성 및 활성화 python -m venv venv # 가상환경 생성venv\Scripts\activate # Windowssource venv/bin/activate # Mac/Linux 1-3. Flask 설치 pip install Flask flask-cors 1-4. Flask 프로젝트 파일 생성 from flask import Flask, request, jsonifyfrom flask.. 2025. 5. 20. [AWS] S3, CloudFront를 통한 React 프로젝트 배포 (+ GitHub Actions) gh-page로 배포했던 개인 프로젝트를 SAA 공부하면서 실습 겸 AWS 서비스에 배포했다.프론트엔드 단독 프로젝트이기 때문에 간단하게 S3 + CloudFront 조합으로 배포했고,GitHub Actions를 활용해서 배포 자동화도 구축해 봤다. 🛠️ AWS S3, CloudFront 배포 과정1. S3 버킷 생성 및 업로드1-1. 버킷 생성 시 퍼블릭 읽기 허용 설정 1-2. 생성된 버킷에 build 폴더 내 파일 업로드📌 중요! build 폴더 자체가 아니라 폴더 내 파일만 업로드 할 것. 1-3. S3 정적 웹사이트 호스팅 설정S3버킷 → 속성 → 정적 웹사이트 호스팅 [편집] 그럼 하단에 아래와 같이 사이트 엔드포인트가 생성되고, 해당 URL로 들어가면 프로젝트 화면이 뿅 + 이슈) gh.. 2025. 4. 4. [AWS] SAA 공부 (10)-2 S3 (Simple Storage Service) - 요청자 지불 / 이벤트 알림 / 성능 / 배치 작업 / S3 요청자 지불S3에서 기본적으로 버킷 소유자(Bucket Owner)가 버킷과 관련된 모든 S3 스토리지 및 데이터 전송 비용을 지불하지만,요청자 지불(Requester Pays) 기능을 활성화하면 객체를 다운로드하는 사용자(요청자) 가 전송 비용을 부담하도록 설정 가능버킷 소유자는 데이터 저장 비용만 부담 > 전송 비용은 요청자 부담데이터를 많이 다운로드 하는 서비스에 적합 (ex. 공공 데이터셋)요청자는 AWS 계정이 있어야 하며, S3에서 데이터 전송 비용을 직접 지불S3 이벤트 알림버킷에서 특정 이벤트 발생 시 AWS 서비스로 자동 알림 전송파일 업로드, 삭제, 복사 등의 이벤트 감지Lambda, SQS, SNS와 연계 가능원하는 만큼 S3 이벤트 생성 가능, 원하는 모든 타깃(Lambda, .. 2025. 4. 1. 이전 1 2 3 4 ··· 28 다음
