피터의 개발이야기

[AI] Peterica의 AI공부와 비젼 정리ㅁ 들어가며ㅇ 최근 Anthropic의 “Harness design for long-running application development” 글을 읽었다.하네스 엔지니어링을 공부하는 입장에서 꽤 인상적인 글이었다.단순히 “에이전트를 잘 만드는 방법”이 아니라,모델의 한계를 어떻게 시스템적으로 다루는가에 대한 이야기였기 때문이다. ㅁ 문제: 모델은 생각보다 쉽게 무너진다 글에서 가장 공감된 부분은 이거다.긴 작업에서 모델은 결국 망가진다컨텍스트가 길어지면 일관성이 깨진다스스로 평가하면 항상 “잘했다”고 한다복잡한 작업에서는 중간에 방향을 잃는다이건 내가 직접 실험하면서도 느꼈던 부분이다.특히 “self-evaluation 문제”는 명확했다.모델은 절대 자기 ..