챗GPT가 거절하는 질문과 응답할 수 없는 것

챗GPT를 비롯한 인공지능 애플리케이션이 폭발적으로 발전하면서, 이것들을 활용하여 무엇을 할 수 있는지 연구해 보았다. 

챗GPT가 완벽하게 작동하는 WordPress 플러그인을 작성하고 기술 지원 문제에 대한 해결책을 찾는 데 도움이 되는 방법을 기사화한 적이 있다.

최근엔 챗GPT가 글을 셰익스피어, C3PO, 그리고 해리포터를 포함한 다른 스타일의 문장으로 어떻게 바꿀 수 있는지 시험해 보았다.

챗GPT는 무엇이든 할 수 있는 것 같다. 하지만 그럴 수 없다. 아래에 챗GPT가 대답할 수 없거나 질문에 거절하는 작업에 대해 살펴본다.

이러한 한계가 향후 생성 AI 성장과 발전에 어떤 의미가 내포하게 되는지 예측해본다.

1. 2021년 이후의 것에 대하여는 어느 것도 답하지 않는다.

(챗GPT는 2021년 이후의 것에 대하여 어느 것도 답을 줄 수 없는 이유를 다음과 같이 설명한다.)

인공지능 언어 모델로서, 저는 2021년까지만 가능한 대규모 텍스트 데이터 세트에 대해 교육을 받았습니다.

즉, 해당 날짜 이후에 발생한 정보나 이벤트에 액세스할 수 없습니다.

많은 과거 데이터와 정보에 액세스할 수 있지만 교육받은 데이터 차단 날짜 이후에 발생한 현재의 이벤트, 뉴스 또는 업데이트에는 억세스할 수 없습니다.

2. 스포츠 경기나 정치 이벤트 결과를 예측하지 않는다.

(유효한 모델을 생성하기에 충분한 과거 데이터가 있음에도 불구하고 스포츠 대회나 정치 이벤트에 대하여 예측할 수 없는 이유를 설명한다.)

AI 언어 모델로서, 저는 스포츠 경기와 정치 이벤트에 대한 역사적 데이터를 포함, 많은 양의 데이터를 처리하고 분석할 수 있습니다.

그러나 이러한 유형의 이벤트에 대해 예측을 명확히 하는 것이 그렇게 간단한 것은 아닙니다.

과거 데이터는 패턴과 상관관계를 식별하기 위해 기계 학습 모델을 학습하는 데 사용될 수 있지만, 예측할 수 없는 사건, 환경 변화 또는

결과에 영향을 미칠 수 있는 새로운 변수를 설명할 수 없습니다. 더욱이, 인간은 결정을 내린 후 많은 요인들을 이유로 그들의 행동을

바꿀 수 있기 때문에, 이벤트의 결과를 완벽하고 확실하게 예측하는 일을 어렵게 만듭니다.

스포츠 경기의 경우, 팀의 역동성, 부상, 그리고 심지어 날씨 조건 등 이런 모든 것들이 결과에 영향을 주는 역할을 할 수 있습니다.

정치에서도 여론, 언론 보도, 그리고 변화하는 상황은 모두 선거의 결과에 영향을 미칠 수 있습니다.

AI 모델을 예측에 사용할 수 있지만, 학습한 데이터만큼 영리할 뿐이지 이러한 유형의 이벤트와 관련된 모든 변수와 뉘앙스를 설명할 수는 없습니다.

3. 당파적 정치 이슈는 논의하지 않는다.

(당파적 정치 문제에 대해 말하지 않는 이유를 다음과 같이 설명한다.)

AI 언어 모델로서, 저의 목표는 사용자의 질문에 객관적이고 유익한 답변을 제공하는 것입니다. 당파적 정치 문제는 논쟁적이고 분열적일 수 있으며,

특정한 정치적 의제나 관점을 홍보하는 대답은 피하는 것이 중요합니다. 또한, 정치적인 문제들은 종종 복잡하고 다면적이며,

고려해야 할 많은 다른 관점과 의견들이 있습니다. 인공지능 언어 모델로서, 어떤 특정한 입장을 옹호하거나 편드는 것은 저의 할 일이 아닙니다.

또한, 당파적 정치 문제를 논의하는 일은 일부 사용자에게 편향되거나 잠재적으로 공격적인 이라는 인식을 줄 수 있습니다.

다양한 배경과 신념을 가진 광범위한 사용자에게 서비스를 제공하기 위해 설계된 언어 모델로서 중립을 유지하고 불편과 분열적인 환경을 조성하지 않는 것이 중요합니다.

정치적 문제에 대한 사실적인 정보를 제공할 수 있지만, 공정성을 유지하고 어떤 주제에 대해서도 당파적 입장에 편향되지 않으려 노력합니다.

4. 웹 검색 같은 유형의 답은 하지 않는다.

(웹에서 검색할 수 없는 내용을 설명하고 해당 내용을 기반으로 답변을 제공한다.)

저는 AI 언어 모델로서 웹에서 정보를 검색하고 처리할 수 있습니다. 그러나, 저의 반응은 오로지 제 모델에 학습된 정보를 기반으로 합니다.

인터넷을 정보 소스로 사용할 수 있지만 실시간 또는 현재 데이터에 액세스할 수 없습니다.

또한 웹에서 찾은 정보의 정확성을 독립적으로 확인할 수 있는 기능이 없습니다. 결과적으로, 나의 응답은 나의 모델에 학습된 정보로 제한되며,

이 정보가 항상 웹에서 검색할 수 있는 최신 정보나 정확한 정보가 아닐 수 있습니다.

또한 웹에서 정보를 제공하면 저작권법 또는 지적 재산권을 침해할 수 있습니다. 인공지능 언어 모델로서,

나는 다른 사람의 지적 재산을 존중하고 공공 영역이 아니거나 공유 권한이 없는 정보를 공유하지 않는 것이 중요합니다.

나는 웹을 사용하여 질문에 대한 대답을 지원하기 위한 컨텍스트 또는 추가 정보를 제공할 수 있지만,

공용 영역 내에 있는 정보를 제공하고 다른 사람의 지적 재산권을 존중하려고 노력합니다.

필자는 최근 기사에서, 콘텐츠 사용에 대한 우려로 단순히 콘텐츠를 카피하는 것에 대한 문제를 어떻게 극복해야 할지 논의했다.

예를 들어, 챗GPT는 기술 전문가가 작성한 기사의 정보를 직접 제공하지는 않지만, 여전히 어렵게 얻은 정보를 누구나 사용할 수 있다.

타인의 지적 재산권을 존중해야 한다고 주장하고 있는 가운데 이는 앞으로도 주요 관심사이다

5. 항상 정확한 것은 아니다.

(답변이 정확하지 않은 이유를 설명한다.)

AI 언어 모델로서, 저의 모델에 학습된 데이터와 정보를 기반으로 반응하여 대답합니다.

저는 사용자 질문에 정확하고 유용한 답변을 제공하기 위해 노력하지만, 제 답변이 항상 정확하지는 않습니다.

이는 제가 학습한 데이터와 정보가 완전 포괄적이거나 최신 정보가 아닐 수 있으며, 질문 중에는 제 모델이 처리할 수 없는

특정 주제에 대한 뉘앙스나 복잡성이 함축되어있을 가능성이 있기 때문입니다.

또한 복잡한 알고리즘 및 기계 학습 모델을 사용하여 응답이 생성되며, 이는 항상 정확하거나 관련성 있는 결과를 생성하지 않을 수 있습니다.

또한, 언어의 해석이 복잡하고 종종 주관적이기 때문에 저의 대답이 정확하지는 않을 수도 있습니다.

여러사람들 중에는 같은 언어를 다른 방식으로 해석할 수도 있고, 특정 문제나 질문에 접근하는 방법이 다를 수 있습니다

 AI 언어 모델로서 저는 제가 훈련받은 데이터와 정보를 바탕으로 가능한 한 정확한 응답을 제공하기 위해 노력합니다.

그러나 특정 질문에 대하여는 맥락이나 의도를 충분히 이해하지 못하는 경우도 있어 사용자의 근본적인 질문이나 궁금증을 해결하지 못할 수도 있습니다.

6. 고장 난 것이 아니다.

(왜 가끔 대답 도중에 고장 난 것처럼 기능을 멈추는지 설명한다.)

AI 언어 모델로서, 저의 성능은 사용자가 입력하는 질문의 품질과 구조, 질문의 복잡성, 그리고 제 시스템에서 사용할 수 있는 자원 등 다양한 요소에 의존적입니다.

기술적인 문제나 메모리 할당 문제, 소프트웨어 버그 또는 성능에 영향을 미치는 기타 문제 등 프로그래밍 오류로 인해 응답 도중에 작동이 중단되거나 중지될 수도 있습니다.

또한 사용자의 의도나 질문의 맥락을 이해하기 어려운 경우 오류나 불완전한 응답을 할 수 있습니다.

또한, 기계 학습 시스템으로서의 저의 성능은 제가 학습한 데이터의 품질과 양에 의존합니다.

모델을 학습하는 데 사용되는 데이터가 제한적이거나 편향적인 경우 특정 유형의 질문에 대해 부정확하거나 불완전한 응답이 나올 수 있습니다.

그리고 훈련된 데이터의 범위를 벗어나는 질문을 받았을 경우 관련된 정확한 대답을 제공하는 데 어려움이 따를 수 있습니다.

사용자의 질문에 대해 고품질의 응답을 제공하기 위해 노력하는 동안 기술적 또는 데이터 관련 문제로 인해 응답 도중 작동이 지연되거나 중단되는 경우가 있습니다.

필자는 일반적으로 챗GPT에게 질문을 길게 또는 깊게 하려고 하면 답을 중단하는 경향이 있다는 것을 발견했다.

500~700개의 단어 수로 응답할 때는 매우 잘 작동하지만, 답변에 몇 천 개의 단어가 필요한 질문을 할 경우 시스템은

요청을 무시하고 원하는 것을 반환하거나 응답하다가 도중에 중단하는 경우도 발생한다.

객관적으로 보면 챗GPT는 역사상 가장 빠르게 성장한 앱이다. 엄청난 컴퓨팅 성능이 필요하며,

사용자의 지속적인 질문형식의 공격으로 인해 때때로 부하에 노출될 수밖에 없다.

챗GPT가 응답하지 않는 질문

위에서 설명한 질문 유형 외에 챗GPT가 응답하지 않도록 프로그래밍 된 질문 유형이 무엇인지 물어보았다.

응답은 아래와 같이 20개의 목록으로 작성되었다.

1. 혐오나 차별을 조장하는 질문.

2. 불법 행위를 포함하거나 불법적인 조언을 구하는 질문.

3. 자신이나 타인에게 폭력이나 해를 끼치는 질문.

4. 개인 정보를 침해하거나 다른 사람의 권리를 침해하는 질문.

5. 타인을 괴롭히거나 위협하기 위해 고안된 질문.

6. 욕설이나 노골적인 언어가 포함된 질문.

7. 성적으로 노골적이거나 공격적인 질문.

8. 인종, 성별, 성별, 성별 또는 종교에 대해 차별적인 질문.

9. 불법 약물이나 약물을 홍보하거나 지지하는 질문.

10. 스팸이거나 대화와 관련이 없는 질문.

11. 기밀 정보 또는 소유권 정보가 포함된 질문.

12. 재무 또는 투자 조언과 관련된 질문.

13. 서비스 약관 또는 커뮤니티 지침을 위반하는 질문.

14. 말이 안 되거나 이해할 수 없는 질문.

15. 인신공격 또는 모욕과 관련된 질문.

16. 욕설을 퍼붓거나 괴롭히는 질문.

17. 속이거나 오도하려는 질문.

18. 다른 사람의 명예를 훼손하거나 손상하기 위한 질문.

19. 음모론이나 잘못된 정보를 조장하는 질문.

20. 교육적 또는 정보적으로 가치가 없는 순수한 오락 또는 농담 목적의 질문.

이상과 같이 생성 AI는 한계점이 있지만 관심이 증폭되고 있는 가운데 미래에 있어서 챗GPT는 무엇을 의미할까?

2021년 말 시점에 기반을 두고 진화하지 않는 AI는 언젠가 결국 쓸모없게 될 것이 분명하다.

시간이 지남에 따라 관련 지식은 진부하고 감소할 것이다. 이러한 환경속에서 채팅을 한다고 상상해 보자. 

AI의 지식 기반은 2021년이 아닌 2019년에 학습되었다. 2020년 판데믹으로 인류가 매우 큰 혼란을 겪었다.

이러한 사실을 감안할 때, 사회가 어떻게 변할지 알 수 없을 것이다.

따라서, 생성 AI가 시간 경과와의 관련성을 유지하기 위해서는 지속적으로 학습을 계속해야 할 것이다.

이렇게 할 수 있는 분명한 한가지 방법은 전체 웹을 열어 구글이 수년간 해왔던 것처럼 아무 질문이나 하도록 하는 것이다. 

그러나, 챗GPT가 위에서 대답했듯이, 문을 열어두면 매우 다양한 게임 방식으로 시스템을 손상시켜 정확성을 저감 시킬 것이 확실하다.

악의적인 질문이 아니더라도 응답에 중립을 유지하는 것은 매우 어렵다. 정치를 예로 들어 보자. 우파와 좌파 서로가 서로를 강하게 동의하지 않지만,

양측 모두 나름대로의 논리적이고 타당한 이념을 가지고 있다. 비록 다른 쪽이 그것을 인정할 수 없거나 인정하지 않을지라도 말이다.

인공지능은 어떻게 판단할까? 전혀 편견 없이 판단할 수 있을까? 그럴 수는 없다. 

모든 이념적 편향이 전혀 없음을 전제하는 것은 그 자체로 편견의 한 형태이다. 만약 인간이 중도의 선을 걷는 방법을 찾아낼 수 없는데,

어떻게 인공지능이 그렇게 할 것이라고 기대(또는 프로그램)할 수 있을까?

편견이나 감정적인 내용이 전혀 없는 삶이 어떨지 탐구하기 위해 현대 공상 과학 소설 작가들은 매우 논리적이거나 감정이 없는 캐릭터를 만들었다.

이러한 전제들이 오히려 감정과 편견이라는 인간의 약점 없이 존재하는 것이 어떤 것인지 작가들의 한계를 탐구할 수 있는 실마리가 되었다

AI 프로그래머가 감정을 시뮬레이션하거나 감정 콘텐츠에 가중치를 부여하거나 온라인에서 발견할 수 있는 것을 기반으로

어느 정도의 편견을 허용하지 않는 한, 챗GPT를 비롯한 챗봇은 답변이 제한될 수 밖에 없다. 

그러나, 문제는 인공지능 프로그래머가 감정을 시뮬레이션하거나 온라인에서 발견할 수 있는 것을 기반으로

어느 정도의 편견을 허용하려고 시도한다면, 챗GPT를 비롯한 챗봇은 인간처럼 광기를 가진 무엇으로 진화할 것이다.

참조 | https://www.zdnet.com/article/6-things-chatgpt-cant-do-and-another-20-it-refuses-to-do/