모델·라이선스·자원 비교표
업무 요구와 모델의 사용 조건을 살핍니다. 모델 크기, 문맥 길이와 동시 요청에 따른 자원 검토 항목을 정리합니다.
이런 분께 권합니다
모델을 고르는 일부터 운영 조건을 따져봅니다.
- ✓Python·HTTP API·리눅스 또는 컨테이너 기초를 갖춘 엔지니어
- ✓사내망·전용 환경의 모델 운영 조건을 검토하는 개발·인프라팀
- ✓모델 선택과 자원·운영 비용을 함께 판단하려는 기술 담당자
모델만 설치하지 않고, 운영할 조건을 살핍니다.
모델 선택에서 운영 구성까지 한 장으로
사용 조건과 자원 검토를 거쳐 서빙 구조를 설계합니다. 테스트 결과와 보안·운영 점검을 연결해 적용할 수 있는 범위를 판단합니다.
교육 내용을 표현한 연출 이미지사내 AI 서빙 구성안
모델 서버, 업무 API와 접근 경로를 나눠 설계합니다. 테스트 환경에서 추론 요청과 응답을 확인합니다.
접근 통제와 운영 점검표
비밀값, 로그와 외부 연결 범위를 점검합니다. 자원 사용, 응답 지연과 모델 변경 시 확인할 절차를 남깁니다.
이미지는 교육 내용 이해를 위한 예시입니다.
- 모델·라이선스·자원 비교
- 추론 API 테스트 배포
- 접근 통제·운영 관찰
실습 결과물
수업에서 만들어 볼 것들
결과물을 직접 확인하며
내 업무에 맞게 고치는 연습을 합니다.
모델·라이선스·자원 비교표
업무 요구와 모델의 사용 조건을 살핍니다. 모델 크기, 문맥 길이와 동시 요청에 따른 자원 검토 항목을 정리합니다.
사내 AI 서빙 구성안
모델 서버, 업무 API와 접근 경로를 나눠 설계합니다. 테스트 환경에서 추론 요청과 응답을 확인합니다.
접근 통제와 운영 점검표
비밀값, 로그와 외부 연결 범위를 점검합니다. 자원 사용, 응답 지연과 모델 변경 시 확인할 절차를 남깁니다.
01사내 환경의 요구와 제약 정리
업무 목적 · 네트워크 · 데이터 경계+
어떤 업무를 처리하고 어디에 배치할지 정합니다. 사내망·전용 환경의 제약과 외부 연결을 허용할 범위를 기록합니다.
실습 결과업무 요구·배치 조건서
02모델과 사용 조건 비교
모델 카드 · 라이선스 · 언어·작업+
후보 모델의 문서와 사용 조건을 읽습니다. 업무 적합성, 재배포·상업적 사용 조건과 평가할 항목을 비교합니다.
실습 결과모델·라이선스 비교표
03추론 자원과 서빙 구조 설계
메모리 · 문맥 길이 · 동시 요청+
모델 크기와 정밀도, 문맥 길이와 요청량을 자원 검토에 반영합니다. CPU·GPU·클라우드 선택과 서빙 도구의 호환성을 살핍니다.
실습 결과자원 검토표와 서빙 구성안
04테스트 환경에 모델 배치하기
실행 환경 · 서빙 API · 응답 검증+
확정된 실습 환경에서 모델을 실행하고 API로 요청합니다. 설정과 실행 기록을 남겨 재현 가능한 테스트 배포를 구성합니다.
실습 결과추론 API 테스트 환경
05접근과 데이터 흐름 통제
인증·인가 · 비밀값 · 로그·외부 연결+
모델을 내부에 배치하는 것과 보안 통제를 구분해 점검합니다. 접근 권한, 로그와 외부 다운로드·연결 범위를 확인합니다.
실습 결과접근 통제·데이터 흐름 점검표
06품질과 자원을 함께 관찰하기
평가 · 지연·자원 · 변경·복구+
예제 요청으로 답변과 응답 지연, 자원 사용을 확인합니다. 모델·서빙 설정 변경을 기록하고 되돌릴 절차를 작성합니다.
실습 결과운영 관찰 기록과 변경 절차
실습 미리보기
모델·서빙·접근 경로를 나눠 설계합니다.
사내 AI를 가정한 배치 구성표입니다. 모델 파일을 준비하는 단계부터 업무 API와 자원, 로그 경계까지 함께 살펴보세요.
모델 선택표
- 작업
- 가상 문서 요약·분류
- 사용 조건
- 모델 카드·라이선스 검토
- 자원 검토
- 모델 크기 · 정밀도 · 문맥 길이
- 실습 환경
- CPU·GPU·클라우드 조건 비교
접근 경로와 실행 환경
업무 화면예제 요청
업무 API인증·인가
모델 서버추론·응답
메모리모델·문맥·요청량
저장 공간모델 파일·실행 기록
네트워크다운로드·외부 연결
배치 전에 확인할 경계
- 자료입력과 출력의 저장 위치
- 접근사용자·서비스별 허용 범위
- 운영로그·업데이트·중단·복구 절차
01라이선스와 실행 조건을 확인합니다.+
가중치 공개 여부만으로 사용 범위를 판단하지 않고 모델 문서와 조건을 읽습니다.
02자원은 모델과 요청 조건에 맞춥니다.+
모델 크기와 정밀도, 문맥 길이와 동시 요청에 따라 메모리와 실행 구성을 검토합니다.
03내부 배치에도 운영 통제가 필요합니다.+
접근 권한과 로그, 외부 연결을 확인하고 상태 점검과 복구 절차를 남깁니다.
화면과 자료는 교육 내용을 설명하기 위한 예시입니다. 실제 서비스에 접속하거나 자료를 전송하지 않습니다.
내 업무에 맞춰 쓰는 연습
사내 배치를 검토할 기술 기록
선정 이유와 실행 설정, 점검 결과를 함께 남깁니다. 모델을 바꾸거나 환경을 옮길 때 다시 확인할 기준으로 정리합니다.
- 01모델·자원 비교표
- 02서빙·접근 통제 구성안
- 03운영 관찰·변경 기록
자료의 세부 구성과 제공 범위는 모집 공지에서 안내합니다.
참여 준비
수업 전에
확인해 주세요.
노트북과 Python·HTTP API, 리눅스 또는 컨테이너 기초가 필요합니다. 모델에 따라 GPU 메모리와 저장 공간 요구가 달라집니다. 개인 GPU 보유를 필수로 정하지 않았으며 CPU·공용 GPU·클라우드 등 실습 환경, 계정과 이용료·제공 범위는 모집 공지에서 확정합니다.
준비 사항 문의자주 묻는 질문
참여 안내
개인 GPU가 반드시 있어야 하나요?
개인 GPU를 필수 조건으로 확정하지 않았습니다. 모델 크기와 서빙 방식에 맞는 실습 환경을 정한 뒤 공용 환경 제공 여부와 개인 장비 요구사항을 안내합니다.
오픈모델이면 제한 없이 사용할 수 있나요?
모델마다 라이선스와 사용 조건이 다릅니다. 모델 카드와 라이선스를 읽고 업무 목적, 재배포와 상업적 사용에 맞는지 검토하는 실습을 포함합니다.
사내에 설치하면 정보 유출 걱정이 없나요?
배치 위치만으로 안전해지지는 않습니다. 접근 권한, 로그, 비밀값과 외부 연결 경로를 함께 확인하고 조직의 보안 정책에 맞춰야 합니다.
일정과 수강료는 언제 안내하나요?
현재 개설 준비 중입니다. 일정·장소·수강료와 실습 환경, 신청 방법은 확정 후 이 페이지에 안내합니다.
오픈모델 기반 사내 AI 구축
교육 내용과 참여 방법,
궁금한 점을 남겨주세요.
개인 참여와 팀 단위 교육 모두 문의할 수 있습니다.