피터의 개발이야기

ㅁ 들어가며  최근 글로벌 AI 시장에 충격파를 던진 중국의 스타트업 DeepSeek이 화제이다. 오픈소스 기반의 초대규모 언어모델(LLM)로 미국의 제재를 뚫고 경쟁사 대비 95% 낮은 비용으로 ChatGPT 수준의 성능을 구현하며, 출시 17일 만에 iOS 앱스토어 1위를 차지하였다. 2023년 7월 17일에 설립된 이 회사는 짧은 기간 동안 놀라운 성과를 보여주며 AI 산업의 새로운 패러다임을 제시하고 있다. 이번 글에서는 DeepSeek의 혁신적인 기술과 접근 방식, 그리고 이 회사가 AI 산업에 미치는 영향에 대해 정리해 보았다. ㅁ DeepSeek: 이름에 담긴 의미  DeepSeek라는 이름은 'Deep'(깊은, 심층)과 'Seek'(찾다, 추구하다)의 합성어로, "깊이 있게 찾다" 또는 ..

ㅁ 들어가며ㅇ 딥러닝 모델의 성능을 최적화하는 과정에서 하이퍼파라미터 튜닝은 매우 중요한 역할을 한다. 이 과정을 통해 모델의 학습 능력을 향상시키고, 과적합이나 과소적합 문제를 해결할 수 있다. ㅁ 과적합과 과소적합이란?하이퍼파라미터 튜닝을 시작하기 전에, 먼저 과적합과 과소적합 개념을 이해해야 한다.과적합 (Overfitting)과적합은 모델이 학습 데이터에 지나치게 맞춰져 있는 상태를 말한다. 이 경우, 모델은 학습 데이터에 대해서는 매우 높은 성능을 보이지만, 새로운 데이터에 대해서는 성능이 떨어진다. 과소적합 (Underfitting)과소적합은 모델이 학습 데이터를 충분히 학습하지 못한 상태를 의미한다. 이 경우, 모델은 학습 데이터와 새로운 데이터 모두에 대해 낮은 성능을 보인다. ㅁ 하이퍼파..

ㅁ 전이학습이란?ㅇ 전이학습은 기존에 학습된 모델을 새로운 작업이나 데이터셋에 적용하는 기술이다. 이 방법은 학습 속도를 크게 줄이고 성능을 향상시키는 데 도움이 된다. 이는 기존의 학습된 가중치와 구조를 활용함으로써 새로운 작업에 대한 학습 속도를 크게 줄이고, 더 나아가 성능을 향상시키는 데 도움이 된다. 전이학습은 특히 신규 학습을 위해 데이터가 부족한데, 이 문제를 해결하는 데 유용하다.  ㅁ 전이학습의 주요 이점개발 비용과 시간 절감데이터가 부족한 상황에서 유용모델의 재사용성 향상ㅁ 전이학습의 주요 방식1. 사전 학습된 신경망을 분류기로 사용기존 모델의 구조와 가중치를 그대로 사용한다.기존 도메인과 목표 도메인이 매우 유사할 때 적용한다.2. 사전 학습된 신경망을 특징 추출기로 사용기존 모델의 ..

ㅁ 들어가며ㅇ 유튜브: 삼성 큰그림 미쳤다; 미국도 인정한 역대급 반전 드라마, 전자공학의 혁명 ㄷㄷㄷㅇ 위 동영상을 보면서 최근 메모리 기술 분야에서 주목받고 있는 신소재, '슬라이딩 강유전'에 대해 알게 되었다.ㅇ 이 혁신적인 소재는 기존 메모리 기술의 한계를 뛰어넘을 잠재력을 지니고 있어 많은 연구자들의 관심을 받고 있다. ㅁ 슬라이딩 강유전이란?  슬라이딩 강유전은 2016년에 처음 발견된 새로운 형태의 강유전성 메커니즘이다. 기존의 강유전체가 이온의 변위를 통해 분극을 형성하는 것과 달리, 슬라이딩 강유전체는 층상 구조를 가진 물질에서 층 간의 상대적인 이동(슬라이딩)을 통해 분극을 형성한다. 이러한 2차원 강유전체를 이용하여 엄청난 특성을 가지는 메모리 반도체를 개발해냈다. (동영상 3:41)..

ㅁ 들어가며오늘은 Large Language Model(LLM)의 흥미로운 기능인 Function Calling에 대해 정리하였다.이 기능은 AI 모델이 외부 세계와 상호작용하는 방식을 크게 변화시키고 있습니다. ㅁ Function Calling이란?  Function Calling은 LLM이 사용자의 질문이나 요청을 이해하고, 그에 맞는 적절한 함수를 선택하여 실행할 수 있게 하는 기능이다. 이를 통해 LLM은 단순히 텍스트를 생성하는 것을 넘어서 실제 작업을 수행하거나 외부 데이터를 활용할 수 있게 된다. ㅁ 작동 원리사용자 입력: 사용자가 질문이나 요청을 입력함수 정의: 개발자가 미리 정의한 함수들이 LLM에 제공함수 선택: LLM이 입력을 분석하고 적절한 함수를 선택매개변수 생성: LLM이 선택한..

ㅁ 들어가며ㅇ 지난 11월 4일, 서울 코엑스에서 'SK AI SUMMIT 2024'가 개최되어 온라인 동영상을 보고 작성한 글이다.  ㅁ 행사 소개 SK AI SUMMIT 2024: AI TOGETHER, AI TOMORROW 이 행사는 AI 기술의 현재와 미래를 조망하고, 글로벌 AI 혁신을 가속화하기 위한 솔루션을 논의하는 자리였다. 최태원 SK 회장이 직접 참석해 오프닝 스피치를 통해 AI 발전의 당면 과제와 해결 방안을 제시했다.   행사 슬로건 "AI Together, AI Tomorrow"는 AI의 미래를 위해 다양한 분야의 협력이 필요하다는 메시지를 담고 있다. 최 회장은 AI가 아직 많은 미지의 영역을 가지고 있으며, 사회 전반에 광범위한 변화를 가져올 기술이기에 모두의 협력이 필수적이라..

ㅁ 딥러닝과 컴퓨터 비전 소개딥러닝(DL)은 인공 신경망을 이용하여 데이터를 학습하고 예측하는 기법으로, 이미지 인식, 음성 인식, 자연어 처리 등 다양한 분야에서 큰 성공을 거두었다. DL의 발전은 대량의 데이터와 강력한 컴퓨팅 자원을 필요로 하며, 이를 통해 복잡한 패턴과 관계를 학습할 수 있다.컴퓨터 비전(Computer Vision)은 이미지나 동영상에서 정보를 추출하고 분석하는 AI 분야이다. 이 기술을 이용하면 카메라가 찍은 사진이나 영상을 분석하여 객체 감지, 얼굴 인식, 장면 이해 등 다양한 작업을 수행할 수 있다. 컴퓨터 비전은 의료 진단, 자율 주행 차량, 보안 시스템 등 여러 산업에서 중요한 역할을 하고 있다. ㅁ 역사적 배경인공지능(AI, Artificial Intelligence)..

ㅁ 들어가며ㅇ 인공지능에 대한 공부는 2017년부터 시작하였다. 소프트웨어공학을 공부하면서 인공지능에 대한 이해라는 소논문을 작성하였다.ㅇ 새롭게 합류한 팀이 AI플랫폼을 운영하고 있어서 본격적으로 AI에 대해 공부를 시작하게 되었다.ㅇ 현재 2021년도 고려사이버대학교에 입학하여 빅데이터와 인공지능에 대해 공부 중이다. ㅁ GPT의 뜻Generative 생성하는 Pre-trained 미리 학습된Transformer 인공 신경망 ㅁ 아티클  AlphaGo가 기존 바둑프로그램의 한계를 뛰어 넘은 핵심을 더 깊게 이해하기 위해 인공지능에 대한 이해가 필요하다. 이 리포트는 인공지능의 역사와 알고리즘에 대해 살펴봄으로써 인공지능에 대해 이해하고, 시대적 흐름 속에서 새로운 기술적 도약을 위해 ‘PIM’이라는..

ㅁ 관련글ㅇ [AI] Peterica의 AI공부와 비젼 정리ㅁ 들어가며ㅇ 인공지능(AI) 분야에서 기계학습(Machine Learning)인 강화(reinforement)학습과 다른 기계학습은 두 가지 주요한 학습 방법이다.ㅇ 말 그대로 Machine Learning은 인공지능을 학습 시키는 방법으로  두 가지 주요 방법은 각각 고유한 특성과 적용 분야를 가지고 있어 비교해볼 만한 가치가 있다. ㅁ 기계학습의 분류ㅇ 기계학습에는 지도학습과 비지도학습, 강화 학습으로 분류된다.ㅇ 기계학습은 인공지능이라 부르기도 하고 데이터를 사용한다는 공통점이 있다.ㅇ 데이터를 이용해 인공지능을 학습하는 방식의 차이에 따라 그 특징이 구분되어 진다. ㅁ 지도학습 (Supervised Learning)ㅇ 지도자 또는 정답이..

ㅁ 관련글ㅇ [AI] Peterica의 AI공부와 비젼 정리ㅁ 강화학습이란?강화학습: AI가 경험을 통해 학습하는 방법 강화학습(Reinforcement Learning)은 기계학습의 한 분야로, 주변 환경과 상호작용하며 시행착오를 통해 최적의 행동 정책을 학습하는 방법이다. 이 접근법은 인간이나 동물이 경험을 통해 학습하는 방식과 유사하다. ㅁ 강화학습의 핵심 요소ㅇ 에이전트(Agent): 학습하고 결정을 내리는 주체ㅇ 환경(Environment): 에이전트가 상호작용하는 세계ㅇ 상태(State): 현재 환경의 상황ㅇ 행동(Action): 에이전트가 취할 수 있는 선택ㅇ 보상(Reward): 행동의 결과로 얻는 피드백ㅇ 정책(Policy): 각 상태에서 어떤 행동을 취할지 결정하는 전략 ㅁ 강화학습의 ..