[기자수첩]불분명한 챗GPT의 명과 암

현재는 숙제를 대신해주고, 심지어는 논문·판결문도 작성해주는 인공지능(AI) ‘챗GPT’가 존재하기 때문이다.

의료계가 AI를 경쟁상대로 여겨 도입 자체를 반대한다는 것도 옛말이 됐다. 현재 일부 한의원에서는 AI 로봇을 통해 환자 접수를 돕는 데 이용하는 등 어떻게 하면 AI를 잘 활용할 수 있을지에 대한 방안들을 모색하고 있다. 

챗GPT의 등장으로 인해 의료계에서 AI를 활용하는 흐름은 가속화될 것으로 보인다. 챗GPT가 환자의 상태를 빠르게 파악하고 의료진에게 진료 시 꼭 필요한 정보만을 전달해 현재의 의료 시스템을 획기적으로 개선할 것이라는 전망도 지속되고 있다.  

문뜩 한의계가 어떻게 챗GPT를 활용할 수 있을지 궁금해져 챗GPT에게 직접 물어봤다. 챗GPT는 “한의학 용어 등을 챗GPT가 학습하면 이를 기반으로 환자들의 질문에 대한 답변을 제공할 수 있을 것으로 생각된다”고 답했다. 다만 이를 위해선 법적 문제가 사라져야 한다고 부연설명을 달았다.  

챗GPT는 미국의사시험을 통과하고 의학논문마저 작성할 정도로 똑똑하지만, 간단한 질문에 대해서는 이상한 답변을 도출하는 등 불완전성을 가지고 있다. 업계에서는 챗GPT의 불완전성이 굉장히 위험하다고 꼬집는다. 잘못되고 편향된 정보를 전달할 수 있는 창구로 활용될 가능성이 높기 때문이다. 

특히 기존의 AI는 잘 모르는 질문에 대해서는 ‘모른다’고 대답했지만, 챗GPT는 어떻게든 답을 도출해낸다. 해당 답변이 맞든 틀리든 상관없이 말이다. 더욱이 현재 챗GPT는 한의계와 관련해 편향되고 잘못된 정보를 제공하고 있다.

기자는 챗GPT에게 ‘열이 39도까지 올랐고 기침이 나니까 나을 수 있는 방법을 추천해달라’는 질문을 했다. 챗GPT는 “물을 많이 마시고, 찬물로 목욕하면 체온을 낮출 수 있다”고 추천하며, 만약 증상이 심하면 병원에 가라고 답변했다. 

이번에는 해당 증상이 있을 시 한의원에서 치료할 수 있는지 물어봤다. 챗GPT는 “(양)의사를 방문하는 게 좋다”면서 “만약 한의원을 선호한다면 진료를 받을 수 있지만, 발열과 기침은 증상에 따라 적절한 치료가 필요하기 때문에 전문적인 진료를 받는 게 좋다”고 대답했다. 사실상 한의원 대신 양의원에 가라고 말한 것이다. 

더 우려되는 점은 가까운 미래에는 한의원을 들린 환자들이 “챗GPT에 물어봤더니 거기 아픈 건 그냥 약만 먹어도 된다고 했다”, “챗GPT가 그렇게 치료하는 거 아니라고 했다”고 말할지도 모른다는 점이다.

취재과정에서 만난 한 전문가는 “챗GPT가 제공하는 정보는 결국 인간을 통해 가공되는 2차 정보이기 때문에 걸러 들을 필요가 있다”면서 “이용자들도 챗GPT를 이용할 때 100% 신뢰하면 안 된다”고 조언했다.

다만 일반 대중들이 챗GPT의 대답을 100% 신뢰하지 않고 참고용으로만 활용할지에 대해서는 누구도 장담할 수 없다. 

챗GPT를 유용한 도구로 잘 사용하기 위해서는 우리 앞에 등장한 새로운 기술이 악용되지 않도록 지켜야 할 최소한의 선을 만드는 일이 중요하다. 특히 한의계에서는 챗GPT가 한의약에 대해 올바른 대답을 제공할 수 있는 근거중심의 1차 정보 제공에 적극 나설 필요가 있을 것이며, 이를 통해 적어도 챗GPT가 한의학-양의학에 대한 선택에 있어 올바른 선택을 내릴 수 있도록 해야 할 것이다.  

이러한 노력들이 지속될 때 챗GPT를 비롯한 AI가 환자들에 미칠 피해를 최소화할 수 있는 밑바탕이 될 것이며, 다가오는 미래에 챗GPT를 더욱 활성화시킬 수 있는 방안이 될 수 있을 것이다.