GPT-4o mini로 비전(Vision) 사용할 때 토큰을 많이 사용하는 이유

OpenAI의 인공지능 모델 GPT-4o와 GPT-4o mini에는 비전(Vision) 기능이 있어 이미지를 입력받아 이미지에 대한 질문에 대답할 수 있습니다.
그런데 GPT-4o mini는 비전 기능을 사용할 때 GPT-4o에 비해서 엄청나게 많은 양의 토큰을 사용합니다.
그 이유는 GPT-4o mini는 GPT-4o에 비해서 토큰 가격은 매우 저렴하지만 비전 가격은 동일하기 때문입니다.

인풋 기준으로 gpt-4o와 gpt-4o-mini의 가격은 약 33배의 차이를 보입니다.

같은 이미지로 두 모델을 테스트했을 때 프롬프트 토큰도 약 33배 차이가 납니다. 미니가 토큰을 더 많이 사용해서 가격을 맞추는 거죠.

아래 링크에서는 더 자세한 내용과 테스트에 사용한 파이썬 코드를 확인하실 수 있습니다.

 

출처: GPT-4o, GPT-4o mini 비전(Vision) 사용 토큰 계산