[AI] Amazon Bedrock 고객응대 서비스 구축 동영상 후기, 프롬프트 엔지니어링

ㅁ 들어가며

ㅇ Amazon Bedrock으로 쉽게 자동 고객 응대 서비스 구축하기 동영상을 보고 후기를 남긴다.

ㅇ 프롬프트 엔지니어링의 필요성에 대해서 이해할 수 있는 동영상이었다.

ㅁ 주제

 이 동영상은 복잡한 RAG나 파인튜닝 없이 Amazon Bedrock의 한국어 지원 모델을 이용해 고객 리뷰 관리를 자동화하는 애플리케이션을 만들어 보는 과정을 담고 있다.

ㅁ 생성형 AI란?

대화, 이야기, 이미지, 비디오, 음악을 포함한 새로운 콘텐츠와 아이디어를 생성한다. 광범위한 데이터로 사전 휸련도니 대형 모델들을 기반 모델(Foundation Models,FMs)로 사용한다. 

ㅁ 생성형 AI의 활용

ㅇ 고객 경험 개선

 ㄴ 챗봇, 가상 어시스턴트를 활용하고,

ㅇ 직무 생산성 향상

 ㄴ 코드 생성, 요약, 콘텐츠 생성이 있다.

ㅇ 비즈니스 프로세스

 ㄴ 데이터 보강, 문서처리, 프로세스 최적화 

 

정해진 답변이 아니라 상대방에 맞추어 문장을 생성할 수 있다.

생성형 AI는 자연어를 이해하고 사람처럼 학습되어 있는 일반적인 지식을 활용하여 대상에 적합한 답변을 생성한다. 

ㅁ 프롬프트 엔지니어링

https://www.youtube.com/watch?v=Q0iWd8uyHZQ&t=675s

ㅇ 프롬프트란?
✓ Al 시스템에 응답을 유도하는 텍스트 입력 값 

 

ㅇ 프롬프트 엔지니어링이란?
✓ 파운데이션 모델과 거대 언어 모델이 원하는 답변을 하도록 NLP(자연어 처리) 기술을 이용해 프롬프트를 만드는 것

 

ㅇ 왜 중요할까?
✓ 모델의 행동에 대한 정교하고 전략적인 통제 가능
✓ 원하는 성능을 달성 ~ 위험 완화

ㅁ 프롬프트 구성요소

 

ㅇ 지시사항 
모델이 수행해야 할 작업에 대한 설명

 

ㅇ 맥락
모델 성능을 조절하기 위한 추가/외부 정보

 

ㅇ 사용자 입력
모델이 출력을 생성하기 위해 필요한 입력 또는 질문

 

ㅇ 출력 표시
모델이 출력해야 하는 표시나 형식

ㅁ 일반적인 작업 종류

ㅇ 챗봇 및 보이스 봇, 코드 개발 및 자동화

ㅇ 미디어 생성과 수정

ㅇ 텍스트 분석, 엔티티 감지 및 감정 분석

ㅇ 텍스트를 활용한 콘텐츠 생성

ㅁ 서비스 아키텍처와 백엔드의 역할

ㅇ DynamoDB에서 고객의 판매 데이터를 추출하여 고객의 특성을 파악

ㅇ Bedrock을 통해 프롬프트에 지시에 의해 고객에 특화된 대답 생성

ㅇ Notification 시스템을 통해 고객 알람 발송

 

ㅇ Bedrock은 감정을 분석하여 제품을 추천하여 상황에 맞는 결과를 생성한다.

ㅁ 프롬프트 구현

ㅇ 고객 데이터를 호라용한 소통

ㅇ 개인화된 추천 방식 설명

ㅇ 감정 분석을 통한 사람 간의 의사소통 모방

 

ㅁ 마무리

ㅇ 백엔드 개발자로서 SQL문을 사용하던 시기에서 AI시대에 맞춰 생성형AI의 여러 서비스 모듈을 적절하게 활용할 수 있도록 프롬프트에 대해서 배워야 한다는 생각을 가지게 되었다. 생성형 AI는 가파르게 성장하고 있으고, 산업의 여러 분야에서 생성형 AI는 활용되고 있다. 생성형 AI의 개인화는 기업의 개인 데이터를 활용하여 고객에 특화된 응답 형식을 제공할 수 있게 되었다. 이 동영상은 생성형 AI 도입 시에 RAG나 Fine Tuning을 적용하기 전 프롬프트 엔지니어링으로 해결하는 방법을 제시하였다. 프롬프트 엔지니어링을 통해 생성형 AI는 애플리케이션 개발 시간을 단축시킬 수 있으며, 여러 서비스와의 통합으로 다양한 기능을 구현할 수 있다.

ㅁ 함께 보면 좋은 사이트

ㅇ [전문가 강좌] 당신의 LLM이 잘 동작하지 않는 이유

 ㄴ 프롬프트 엔지니어링을 잘 설명한 글

ㅇ Amazon Bedrock으로 쉽게 자동 고객 응대 서비스 구축하기