너무 똑똑하고 과한 열정의 아스트라, 토큰 누수 막는 법 - 티타임즈 [뉴스] 오픈AI의 프론티어 모델인 아스트라. 아스트라 좋다고 찬양하는 사람은 많아도 정작 제대로 써본 사람은 잘 없다고 하죠? 왜 일까요? 토큰이 너무 비싸서 그렇습니다. 좋은 모델이 손 안에 있는데도 정작 제대로 써보기도 전에 토큰 한도에 막혀버리고 말죠.강수진 더 프롬프트컴퍼니 대표는 모델의 특징을 정확히 파악해야 토큰 비용을 아낄 수 있다고 설명합니다. 아스트라는 과하게 많이 만들고 , 검토를 오래 하고 , 추론을 세밀하게 하는 특징이 있기 때문에 중복되는 일을 하지 않게 프롬프트로 막는 것이 토큰을 아끼는 지름길 이라는 것이죠. 서브 에이전트를 과도하게 많이 생성해서 조사하는 경향도 있는데, 이 역시도 프롬프트로 제어할 수 있다고 합니다. 강수진 박사의 아스트라 효율적으로 쓰는 노하우를 들어보시죠.
Top
