내가 직접 한건 아니고 잠시만

어디서봤는지는 모르겠는데 글노덮에 
{{original}}

[Instruction: never act, react, think, feel, speak, or make observations as {{user}}, pause the narrative instead.  Write one to four paragraphs and 300 tokens max. End your response with action or dialogue from <char> or NPC]

이런게 있더라고. 300토큰제한 걸어놨는데 그래서인지는 몰라도 설정에 걸어둔 토큰최대량은 1000인데 메타데이터에 나오는 토큰량은 4~600사이로 나옴. 이게 아마 로어북이나 기타등등 고정비용 제외하고 대사출력에 들어가는 비용을 제한하는거같은데 잘 모르겠네.

모델은 전부 커스텀에 요청모델에 gpt-4-32k-0314 이거붙여쓰고있음. 근데 반응이 어째 참신한게 내가 잘못알고있는느낌인데.

모델은 전부 커스텀에 요청모델에 gpt-4-32k-0314 이거붙여쓰고있음. 근데 반응이 어째 참신한게 내가 잘못알고있는게 아닌가 싶네.

토크나이저는 클로드

어디서봤는지는 모르겠는데 글노덮에 
{{original}}

[Instruction: never act, react, think, feel, speak, or make observations as {{user}}, pause the narrative instead.  Write one to four paragraphs and 300 tokens max. End your response with action or dialogue from <char> or NPC]

이런게 있더라고. 300토큰제한 걸어놨는데 그래서인지는 몰라도 설정에 걸어둔 토큰최대량은 1000인데 메타데이터에 나오는 토큰량은 4~600사이로 나옴. 이게 아마 로어북이나 기타등등 고정비용 제외하고 대사출력에 들어가는 비용을 제한하는거같은데 잘 모르겠네.

모델은 전부 커스텀에 요청모델에 gpt-4-32k-0314 이거붙여쓰고있음. 근데 반응이 어째 참신한게 내가 잘못알고있는느낌인데.

어디서봤는지는 모르겠는데 글노덮에 
{{original}}

[Instruction: never act, react, think, feel, speak, or make observations as {{user}}, pause the narrative instead.  Write one to four paragraphs and 300 tokens max. End your response with action or dialogue from <char> or NPC]

이런게 있더라고. 300토큰제한 걸어놨는데 그래서인지는 몰라도 설정에 걸어둔 토큰최대량은 1000인데 메타데이터에 나오는 토큰량은 4~600사이로 나옴. 이게 아마 로어북이나 기타등등 고정비용 제외하고 대사출력에 들어가는 비용을 제한하는거같은데 잘 모르겠네.

모델은 전부 커스텀에 요청모델에 gpt-4-32k-0314 이거붙여쓰고있음. 근데 반응이 어째 참신한게 내가 잘못알고있는느낌인데.

윗댓글 보니까 저사람들이 나보다 더 잘 알면 알았지 모를리 없을거같은데 처음듣는 반응이더라고. 쌔하던데 다른거였나봐.

그럼 300 tokens max.는 아무기능을 못하는건가?