패스트캠퍼스/AI 시대, PM_PO 를 위한 한 번에 끝내는 AI 서비스 기획 실무

패스트캠퍼스 환급챌린지 3일차 : AI 시대, PM/PO 를 위한 한 번에 끝내는 AI 서비스 기획 실무 강의 후기

Tan- 2025. 11. 14. 22:17

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.
https://fastcampus.info/4oKQD6b

 

 

 

251114(금) 3일차

AI 기초 개념 및 용어

 

 

어떻게 데이터를 벡터화하고 구분할까

글은 인류에게 가장 오래된 기록 수단

벡터 표현을 할 때도 문자를 최우선으로 처리하고 있음 

문자가 데이터 처리 효율이 가장 높다(비용도 싸고 시간도 가장 덜 걸림)

 

문자 데이터를 다 사용한 이후에는 사진 데이터를 학습

문자와 사진간의 연관관계를 파악하는 것이 사진 학습의 주요한 특징

그래서 문자에 대응하는 사진의 시각적인 특징들을 추출해내는 것이 주요함

 

사진 데이터는 학습 비용이 문자보다는 상대적으로 높지만 동영상 처리보다는 효율이 좋아서 사진도 학습에 많이 활용되고 있음

영상 데이터의 경우 비싸기 때문에 AI 학습 마지막에 활용

 

모든 학습을 진행할 때 가장 중요한 것은 비용과 컴퓨팅 파워

 

벡터화를 통해 영어로 학습된 것도 다른 모델에서도 활용할 수 있음

영어 버전의 정확도는 85.5%,

다른 처리 없이 단순히 언어만 바꿔서 처리했을 때 한글은 77%

GPT 3.5버전은 70%

한국어 질문이 들어오고 벡터 처리해서 숫자로 바꾸고 결과를 만들어 낸 다음에 질문했던 언어로 바꿔 결과를 출력

 

전 세계의 지식을 숫자로 통합해 활용하고 계속 학습해 고도화 하고 있는 것이 현재 AI 기술들

 

AI 정보는 모두 데이터 센터에 저장되고

방대한 AI 서비스 처리를 위해 4개의 파트가 유기적으로 연결되어 있음(하드웨어 구조만 봤을 때)

  • CPU
    • 중앙처리장치, 데이터베이스 처리 강점 때문에 AI 센터에서 많이 사용
  • GPU
    • 그래픽처리장치, 많은 데이터 계산을 동시에 처리할 수 있기 때문에 AI 센터의 핵심
  • 네트워크 반도체(FPGA)
    • 네트워크 병목현상을 제거하기 위해 네트워크 환경에 따라 특화해서 사용
  • 네트워크
    • 외부 네트워크 : 질문, 답변 출력
    • 내부 네트워크 : 방대한 저장 데이터

수백 Gbps 속도로 데이터가 들어오고 나가고

데이터가 들어오면 병목현상을 제거해 명령을 할당하고

CPU는 DB 작업 처리후 GPU한테 배분

GPU는 연산으로 답변 출력

GPT를 쓸 때마다 이 네 개의 하드웨어 과정을 계속 타는 것

 

ANI = 특정 하나의 분야에서 사용되는 AI (금융권, 등 일상생활 AI 서비스)

AGI = 다양한 분야에서 제한없이 사용할 수 있는 AI (GPT)

ASI = 현재 연구 진행 중

 

 

이번 강의는

문자 데이터가 AI 학습의 출발점이라는 점이 인상 깊었고

이미지나 영상보다 문자 기반 데이터가 비용과 처리 효율이 높다는 것은 AI 서비스를 기획할 때 어떤 데이터 형태를 우선적으로 다뤄야 할지 기준이 됐다

 

언어 → 벡터화 → 숫자 변환 → 결과해석 과정을 염두해두기,

 

결국 AI 서비스는 모델보다 데이터의 형태, 언어 구조, 연산 효율을 어떻게 설계하느냐가 핵심