피터의 개발이야기

ㅁ 들어가며ㅇ Amazon Bedrock으로 쉽게 자동 고객 응대 서비스 구축하기 동영상을 보고 후기를 남긴다.ㅇ 프롬프트 엔지니어링의 필요성에 대해서 이해할 수 있는 동영상이었다.ㅁ 주제 이 동영상은 복잡한 RAG나 파인튜닝 없이 Amazon Bedrock의 한국어 지원 모델을 이용해 고객 리뷰 관리를 자동화하는 애플리케이션을 만들어 보는 과정을 담고 있다.ㅁ 생성형 AI란?대화, 이야기, 이미지, 비디오, 음악을 포함한 새로운 콘텐츠와 아이디어를 생성한다. 광범위한 데이터로 사전 휸련도니 대형 모델들을 기반 모델(Foundation Models,FMs)로 사용한다. ㅁ 생성형 AI의 활용ㅇ 고객 경험 개선 ㄴ 챗봇, 가상 어시스턴트를 활용하고,ㅇ 직무 생산성 향상 ㄴ 코드 생성, 요약, 콘텐츠 생성이..

ㅁ 들어가며ㅇ 맥에서 크롬 브라우저를 사용하면서 http로 접근해야 하는 사이트가 https로 자동 전환되는 문제를 해결하는 방법을 정리하였다.  ㅁ Https로 전환 이유ㅇSSL인증서가 적용된 사이트ㅇ 크롬에서 한번이라도 https로 접속했던 경우 자동으로 https로 리다이렉트 된다. ㅁ Https 해제  방법HSTS 설정 제거하기ㅇ 크롬 브라우저를 열고 주소창에 다음을 입력한다.chrome://net-internals/#hstsㅇ Delete domain security policies섹션을 선택한다.ㅇ 문제가 되는 도메인을 입력한다.ㅇ Delete 버튼을 클릭한다. ㅁ 추가 조치ㅇ 위 방법으로 해결되지 않는다면, 다음 단계를 시도할 수 있다. [추가] - 같은 페이지의 "Add HSTS domai..

ㅁ Git이란?Git은 분산 버전 관리 시스템입니다. 코드 변경 사항을 추적하고 여러 개발자가 협업하는 데 도움을 줍니다.ㅁ 기본 명령어git init: 새 저장소 생성git clone [url]: 원격 저장소 복제git add [파일]: 변경 사항 스테이징git commit -m "[메시지]": 변경 사항 커밋git push: 원격 저장소에 변경 사항 업로드git pull: 원격 저장소에서 변경 사항 가져오기ㅁ 브랜치 관리git branch: 브랜치 목록 확인git branch [이름]: 새 브랜치 생성git checkout [브랜치]: 브랜치 전환git merge [브랜치]: 현재 브랜치에 다른 브랜치 병합ㅁ 유용한 팁git status: 현재 상태 확인git log: 커밋 히스토리 확인git dif..

ㅁ 들어가며ㅇ [AI] 언어 모델의 병렬처리를 가능하게 한 트렌스포머(Transformer) 기술에 대해서 정리하였다. ㅇ 2017년부터 대규모 언어 모델(Large Language Models, LLM)의 크기가 급격히 증가하는 이유에 대해서 정리해보았다.ㅁ 언어 모델의 진화ㅇ 2017년 Transformer 모델이 등장한 이후, 언어 모델의 크기는 폭발적으로 증가했다.  - Transformer (2017): 465M 파라미터  - GPT-3 (2020): 175B 파라미터 (Transformer의 376배)  - Switch-C (2021): 1.6T 파라미터  - Wu Dao 2.0 (2021): 1.75T 파라미터 (GPT-3의 10배)  - GPT-4(2023): 1.8T 파라미터 (GPT-3..

ㅁ Collapse 또는 Collapsing이란?ㅇ 사전적의미로 영어로 무너지다, 붕괴하다, 실패하다라는 뜻ㅇ 딥러닝 모델이 학습 과정에서 겪는 문제로, 모델의 출력이 제한된 범위나 특정 값으로 수렴하는 현상을 말한다.ㅁ Complete Collapseㅇ 모든 입력에 대해 동일한 embedding을 출력하는 현상이다.ㅇ 모델이 입력의 다양성을 무시하고 단일 출력으로 수렴된다.ㅁ Dimensional Collapse(차원 붕괴)ㅇ embedding space가 lower-dimensional subspace에만 span되는 현상ㅇ 특정 차원에서만 붕괴가 일어나 전체 특징 공간을 충분히 활용하지 못함ㅁ Mode Collapse ㅇ Mode Collapse 현상은 Generator가 다양한 출력을 생성하지 못..

ㅁ 들어가며ㅇ web서비스를 제공하다 보면 원하지 않는 url 공격을 받게 된다.ㅇ 이런 경우를 식별하는 과정과 Nginx에서 특정 URL만 허용하는 방법을 정리해 보았다. ㅁ 잘못된 URL 패턴 확인# webserver에 표출되는 에러 로그 확인docker logs webserver | grep error ㅇ 잘못 접근하는 URL패턴 분석# 잘못된 경로 404 로그 추출$ docker logs webserver | grep 404 > 404.log# 잘못 접근하는 URL패턴 분석$ awk '{print $7}' "404.log" | sort | uniq -c | sort -rn | awk '{print $2 " - " $1 "건"}' | head -n 10/favicon.ico - 1351건/robot..

ㅁ 들어가며ㅇ 지난 글, [Kotlin] Kotlin에서 Long 타입이 null일 때 기본값을 설정하는 방법에서 null 값인 경우 기본값 처리 방법에 대해서 정리하였는데, 이를 응용하여 requestDto.somethingSeq가 null인 경우를 분기 처리하는 방법은 여러 가지가 있어서 그 방법을 정리해 보았다. ㅁ 안전호출 연산자(?)와 엘비스 연산자(?:)val result = requestDto.somethingSeq?.let { seq -> // seq가 null이 아닌 경우 실행될 코드 "Sequence: $seq"} ?: run { // seq가 null인 경우 실행될 코드 "Sequence is null"} ㅁ when 표현식 사용val result = when (..

ㅁ 들어가며ㅇ 이번 글에서는 트랜스 포머 기술에 대해서 정리해 보았다.ㅇ 트랜스포머 기술은 LLM(Large Language Model)의 핵심 요소로, 여러 가지 중요한 장점을 제공합니다. ㅁ 트랜스포머: LLM의 게임 체인저  트랜스포머 아키텍처는 LLM 발전의 핵심 동력이 되었다. ㅇ 병렬 처리 능력  트랜스포머의 가장 큰 장점 중 하나는 뛰어난 병렬 처리 능력이다. 기존의 순차적 모델과 달리, 트랜스포머는 입력 시퀀스를 동시에 처리할 수 있어 학습 및 추론 속도가 크게 향상되었다. 기존의 순차적 모델에서 언어는 단어의 연관관계를 학습하기 위해서는 순차적으로 처리해야 했고, 이는 앞의 단어를 분석한 후 그 다음 글자를 분석해야하는 한계점이 있었다. ㅇ 장거리 의존성 포착  트랜스포머의 자기 주의(..

ㅁ Productivity Paradox란?  생산성 패러독스(Productivity Paradox)는 정보 기술에 대한 막대한 투자에도 불구하고 생산성 증가가 기대만큼 이루어지지 않는 현상을 말한다. 이는 1980년대 후반에 처음 주목받았으며, 경제학자 로버트 솔로우의 이름을 따서 솔로우 패러독스라고도 불린다. 이 현상은. 기술 혁신이 빠르게 진행되고 있음에도 불구하고 경제 성장에 미치는 영향이 제한적인 이유를 설명한다.ㅁ 생산성 패러독스의 원인ㅇ 측정 문제  기술의 경제적 영향을 정확히 측정하기 어려운 경우가 많다. 특히 서비스 산업에서의 기술 혁신은 전통적인 생산성 측정 방식에 잘 반영되지 않을 수 있다.ㅇ 기대와 현실의 차이  기술이 가져올 이익에 대한 과도한 기대가 실제 경제 성장으로 이어지지 ..

ㅁ 들어가며ㅇ 이 글은 멀티모달 AI에 대해 설명하며, 인간처럼 다양한 감각을 통합하여 정보를 처리하는 AI의 중요성과 가능성을 다루고 있다. ㅇ 멀티모달 AI는 텍스트, 이미지, 소리 등 여러 형태의 데이터를 동시에 처리하여 인간과 유사한 방식으로 세상을 이해하고 학습한다. ㅁ 멀티모달 AI의 필요성  기존 AI는 주로 텍스트 기반의 자연어 처리에 집중했으나, 실제 세계의 다양한 정보를 이해하기 위해서는 멀티모달 AI가 필요하다. 이는 AI가 단순한 데이터 처리에서 벗어나 인간처럼 사고할 수 있도록 돕는다. 예를 들어 기존 AI는 '남자가 말을 타고 있다'라는 문장에서 '탄다(ride)'라는 개념을 이해하지 못하고, 말의 크기가 얼마만 한 것인지, 어떤 형태로 타는 것인지 알 수가 없죠. 즉, 데이터 ..