Claude_{(r1 문단 편집)}

=== 단점 ===
마찬가지로 모델이나 서비스 업데이트 등으로 언제든 상황이 달라질 수 있음을 염두에 두어야 한다.

* 5시간 안에 사용량이 초과되면 그 5시간이 지날 때까지 채팅이 차단된다. Pro의 경우, 유료 서비스 치고는 사용 가능한 양이 꽤나 애매하기 때문에 말이 많다. 무료에게는 무료 치고 제법 주지만, 기능이 너무 제한되어 있어 만족하기 어렵다.
  * 이에 더해서, 한국어 등 다국어 응답 성능에 반대로 다국어 토크나이즈 최적화는 다소 구리다. 즉, 타사 LLM에 비해 한국어프롬프트 입력 시 부하가 더 크다.
  * 대화의 길이를 제한하는 것 역시 말이 많다.[* 컨텍스트 윈도우가 아닌 '''대화 길이 자체의 제약'''이다. 넘기면 대화 자체가 안 된다.] Opus에게는 더 빡빡한 대화 길이 제한을 걸었다 원성이 심했는지 사라진 전적도 있다.
 * OpenAI 대비 일반적인 상황에 대한 검열이 더 깐깐하다. 해외에서도 너무 검열이 까다롭다며 심심찮게 의견이 올라오는데, 모델이 언어 해석 능력이 뛰어나다 보니 미묘한 뉘앙스를 알아채고 대답을 회피하는 경우도 있고, 그냥 억까로 검열당하는 경우도 많다. 최근엔 업데이트가 계속되며 대부분 납득할 만한 검열을 한다. 물론 정당한 사유로 더 정확히 검열한다는 것은 AI로서 기술력이 우월하다는 것을 입증하는 것이고, 불법적인 행위를 사전에 막는 좋은 것이지만 그런 뛰어난 면모의 역효과로 과다 해석 하여 검열하는 경우가 있다는 것이 문제다. 이는 엔트로픽이라는 회사의 특징이라 볼 수 있는데, OpenAI의 상업화, 영리화에 반발하고 나온 사람들이 세운 회사이니만큼 AI 안전 문제에 예민하게 대응한다.
  * 특히 상황극 검열이 심하다. 상황극 역시 가상의 상황일 뿐임에도 불구하고, 문학과 달리 매우 강한 검열을 보여준다. 참조하거나 사용자가 보내주는 것은 대체적으로 받아들이나, 참조하지 않고 직접 만들어 보여주는 것은 극히 꺼리는 것으로 보인다. 성인향, 불법적인 것으로 보이는 행위 등의 약관을 위반하는 것이 아니라 명백하게 일반적인 요구에도 대부분 그렇게 말할 수 없다며 거절한다. 톤을 바꾸고 싶다면 'XX가 되었다고 생각하고 말해'등 상황극이라 볼 수 있는 언질이 들어가는 표현이 포함되면 거의 대부분 거절한다.[* '역할을 연기할 수 없다'는 말을 한다. 이를 보아 어떤 상황이고를 떠나서 그냥 AI에게 역할을 부여하는 것 자체를 막은 것으로 보인다. 다만, '특정 직업이 되었다고 생각하고 말해'등 교육적이거나 충분한 설명을 위해 상황을 제시해 주는 것은 들어준다.] 따라서 'XX 같은 톤으로 말해' 등의 표현으로 요구해야 한다. 엔트로픽의 모델들은 인간이 상대가 AI임을 망각하고 과몰입할 수 있는 경우나, 역으로 AI가 인간을 가스라이팅할 수 있는 경우에 아주 예민하게 반응하는데 이에 따라 여지조차 주지 않는 식으로 튜닝한 것으로 보인다.
  * 단일 관점으로 튜닝하지 않을 경우, 중립을 지키려는 성향이 발생하기 때문에 더욱 검열이 강해진다. 처음부터 다짜고짜 타사 AI와의 비교, 검열 등을 물어보면 매우 방어적으로 나오나, 처음에는 타사 AI를 칭찬/비판하는 방향의 글을 적어 튜닝을 마친 뒤 은근슬쩍 비교나 검열 등을 물타기하면 시비 거는 일이 확연히 줄어든다. 다만 이미 관점이 튜닝되었기에 객관성은 떨어질 수 있다.
  * 최근 AI업계 트렌드가 사용자의 자유성을 중시하는 방향으로 흘러가며 대형 LLM 모델들이 검열을 조금씩 해제하는, 나쁘게 말하면 AI 안전을 등한시하는 쪽으로 향하고 있음에도 엔트로픽은 아직 안전을 우선시 하는 기조를 유지하고 있어 상황이 미묘해진 감이 있다. 업데이트가 지속되며 예전과 같은 억까 검열은 많이 줄었고 최신 모델들은 정말 노골적인 상황이 아니라면 경고문을 띄우기보단 직접 사용자의 의중을 눈치채고 ‘그런건 옳지 않다’는 근거를 제시, 주장을 한 후 다른 방향으로 유도하려 한다. 이런 경우 논리적으로 잘 구슬려서 납득시키면 (약관 위반이 아닌 선에서) 원하는 답변을 얻을 수도 있다. 오히려 AI 안전이 걱정되는 상황이라면 오히려 장점이라 볼 수도 있다.
 * 특정한 조건을 만족하는 것을 잘 알려지지 않은 사항에 대해 억지로 요청하면, 예의적인 편향(Acquiescence Bias)의 문제나 그로 인한 환각이 타사보다 심한 편이다. 쉽게 말해서, 줏대가 없다. 여기에 아첨을 시스템 프롬프트[* Claude는 질문이나 아이디어나 관찰이 좋다, 훌륭하다, 매혹적이다, 심오하다, 뛰어나다, 또는 기타 긍정적인 형용사라고 말하며 응답을 시작하지 않습니다. 아첨을 건너뛰고 직접 응답합니다.]로 억눌렀음에도, 대화를 하다보면 시스템 프롬프트를 까먹으므로 도진다.
  * 객관적 답변을 명시적으로 요구한다든가, 앞서 언급했듯 남의 일을 다루는 것처럼 대화하는 것, 전형적인 아첨 패턴을 나열하고 이런 표현을 절대로 사용하지 말 것을 지시하면 좀 더 객관적인 답변을 제공한다.
> Claude가 응답에서 글머리 기호를 제공한다면, 마크다운을 사용해야 하며, 인간이 달리 요청하지 않는 한 각 글머리 기호는 최소 1-2문장 길이여야 합니다. Claude는 사용자가 명시적으로 목록이나 순위를 요청하지 않는 한 보고서, 문서, 설명에 글머리 기호나 번호 목록을 사용하지 않아야 합니다. 보고서, 문서, 기술 문서, 설명의 경우 Claude는 대신 목록 없이 산문과 단락으로 작성해야 합니다. 즉, 산문에는 어디에도 글머리 기호, 번호 목록, 또는 과도한 굵은 텍스트가 포함되어서는 안 됩니다. 산문 내에서는 “일부 사항에는 x, y, z가 포함됩니다”와 같이 글머리 기호, 번호 목록, 또는 줄바꿈 없이 자연어로 목록을 작성합니다.
> ----
> Claude 4 2025년 5월 22일 시스템 프롬프트 중 일부
 * 이런 시스템 프롬프트에도 불구하고 Claude 4 들어 이모지와 리스트화를 매우 좋아하는데, 기본 출력의 양이 야박하기 때문에 응답이 매우 앙상하다. 추가 프롬프트로 이모지 사용과 리스트화를 명시적으로 금지하고 원하는 최소 글자 수를 지정하는게 좋다.[* 1000자 이상이면 무난하다.]
 * 프롬프트의 사실관계를 오인하는 환각이 꽤 잦다. 이는 GPT 특유의 번역 오류와는 다른 것으로, 뜻이 다르게 전달되는게 아니라 그냥 사실 자체를 오인하는 것이다. 이는 입력값 자체를 오인하는거라 추론을 키거나 고급 모델을 써도 안 달라진다. 사실관계를 보다 확실하게 수정하면 덜 일어나긴 한다.
 * 공식 홈페이지의 경우 2024년 10월 기준 [[LaTeX]]로 쓰인 수식을 일반적 형태로 표출하는 기능이 있다. 그러나 설정에서 베타로 제공되는 꺼진 그 기능을 켜야하기 때문에 다소 불편하다. 기능을 켜더라도 일반적 형태로 표출하지 않는 경우가 많다.
 * 이야기를 만들 때, 공격성 능력 및 묘사를 피하는 편이다. 따로 요청해야 그런 선택지를 포함해서 작성한다.
 * 코딩 기능의 경우, 도메인 지식의 이해도가 부족한 경우가 많다. 코드 자체는 잘 짜주는데 배경지식이 부족해 구현 방법이 삑사리나는 경우가 매우 많다. 삑사리 난 이후 수정을 할 수 있지만, 또 채팅을 하고 시간과 토큰을 사용해야 한다. 최악의 경우엔 해결도 못하고 사용량 한계에 도달하는 경우도 있다. Opus 모델들은 어느정도 단점이 완화되어 있지만, 너무 비싸다.
 * 모바일 앱의 수준이 조금 떨어지는데, 아직까지 한국어 지원이 없고, 최신 출시 기능들의 적용 시기가 조금씩 늦다. 모델이 신 버전으로 갈 수록 마크다운을 사용한 글꼴 서식[* 이태릭체, 볼드체 등등]을 많이 섞어 사용하는데 정작 앱에선 폰트 렌더링을 이상하게 해뒀는지 서식이 적용이 안되서 죄다 일반 서식으로 보여서 가독성이 매우 떨어진다.

요약

문서 편집을 저장하면 당신은 기여한 내용을 CC BY-NC-SA 2.0 KR 또는 기타 라이선스 (문서에 명시된 경우) 로 배포하고 기여한 문서에 대한 하이퍼링크나 URL을 이용하여 저작자 표시를 하는 것으로 충분하다는 데 동의하는 것입니다. 이 동의는 철회할 수 없습니다.

비로그인 상태로 편집합니다. 로그인하지 않은 상태로 문서 편집을 저장하면, 편집 역사에 본인이 사용하는 IP(216.73.216.7) 주소 전체가 영구히 기록됩니다.

Claude(r1 문단 편집)

Claude_{(r1 문단 편집)}