AI 리터러시 ① AI 이해(AI Understanding)

ChatGPT는 질문을 받으면 어떻게 답변을 만들어낼까요?

우리는 ChatGPT에 질문하면 몇 초 만에 자연스러운 답변을 얻을 수 있습니다.

보고서를 작성해 달라고 하면 보고서를 만들어주고, 복잡한 개념을 설명해 달라고 하면 쉽게 풀어서 설명해 줍니다.

심지어 새로운 아이디어를 제안하거나 업무 문제를 해결하는 데 도움을 주기도 합니다.

그런데 여기서 한 가지 의문이 생깁니다.

"AI가 이렇게 자연스럽게 답변한다는 것은, AI가 모든 내용을 정확하게 알고 있다는 뜻일까요?"

그렇지는 않습니다.

AI는 때로 잘못된 정보를 제시하거나, 존재하지 않는 사실을 마치 실제로 존재하는 것처럼 설명하기도 합니다.

AI를 효과적으로 활용하려면 먼저 AI가 어떤 원리로 작동하며, 무엇을 잘하고 무엇을 못하는지 이해해야 합니다.

이러한 능력이 바로 AI 리터러시의 첫 번째 핵심 역량인 **AI 이해(AI Understanding)**입니다.

1. AI 이해(AI Understanding)란 무엇일까?

AI 이해 능력은 인공지능의 기본적인 작동 원리와 가능성, 한계를 이해하고 AI의 특성에 맞게 활용할 수 있는 능력입니다.

단순히 AI 관련 용어를 많이 알고 있는 것을 의미하지 않습니다.

실제 AI를 사용하는 과정에서 다음과 같은 질문에 답할 수 있어야 합니다.

• 생성형 AI는 어떤 원리로 답변을 만들어낼까?

• AI가 제공하는 정보는 얼마나 신뢰할 수 있을까?

• AI는 어떤 업무를 잘하고, 어떤 업무에서 실수할까?

• AI가 잘못된 답변을 만드는 이유는 무엇일까?

• AI에게 모든 업무를 맡겨도 괜찮을까?

이러한 질문에 대한 기본적인 이해가 있어야 AI를 적절하게 활용할 수 있습니다.

특히 최근 기업들이 AI 활용 역량을 채용 평가에 반영하면서 AI의 작동 원리와 한계를 이해하는 것은 취업준비생에게도 중요한 기초 역량이 되고 있습니다.

2. 생성형 AI는 어떻게 답변을 만들어낼까?

ChatGPT와 같은 생성형 AI의 핵심 기술 중 하나는 대규모 언어 모델(LLM, Large Language Model)입니다.

LLM은 방대한 텍스트 데이터를 학습하면서 언어의 구조와 다양한 정보의 관계를 익힙니다.

여기서 중요한 개념은 다음에 올 토큰(Token)을 예측한다는 것입니다.

토큰은 AI가 텍스트를 처리하는 기본 단위로, 하나의 단어나 단어의 일부, 문장부호 등이 될 수 있습니다.

예를 들어 다음과 같은 문장이 있다고 생각해 보겠습니다.

"대한민국의 수도는"

이 문장 다음에 어떤 단어가 나올 가능성이 높을까요?

대부분의 사람은 '서울'이라고 답할 것입니다.

언어 모델 역시 학습 과정에서 익힌 언어적 패턴과 문맥을 바탕으로 다음에 올 가능성이 높은 토큰을 예측합니다.

이 과정을 반복하면서 하나의 문장, 문단, 긴 보고서까지 생성할 수 있습니다.

물론 실제 최신 AI 모델의 작동 방식은 이보다 복잡합니다.

문맥을 분석하는 신경망 구조, 추가 학습, 추론을 위한 연산, 외부 도구 활용 등이 결합되어 다양한 문제를 해결할 수 있습니다.

하지만 중요한 사실은 다음과 같습니다.

AI가 자연스럽고 논리적인 답변을 만들었다고 해서 그 답변의 사실관계까지 자동으로 검증된 것은 아닙니다.

이것이 생성형 AI를 이해할 때 가장 먼저 알아야 할 특징입니다.

3. 생성형 AI는 어떤 일을 잘할까?

생성형 AI는 다양한 업무에서 유용하게 활용할 수 있습니다.

특히 방대한 정보를 정리하고, 새로운 내용을 생성하고, 복잡한 문제를 여러 관점에서 검토하는 데 도움을 줍니다.

① 정보 요약과 정리

긴 문서나 보고서에서 중요한 내용을 추출하고 핵심 내용을 간결하게 정리할 수 있습니다.

예를 들어 기업의 사업보고서를 AI에 제공하고 주요 사업과 실적을 요약하도록 요청할 수 있습니다.

② 글쓰기와 문서 작성

이메일, 보고서, 자기소개서 초안, 기획안 등 다양한 문서 작성에 활용할 수 있습니다.

작성한 문장의 표현을 다듬거나 논리적 흐름을 개선하는 것도 가능합니다.

③ 아이디어 발굴

하나의 문제를 여러 관점에서 바라보고 다양한 해결책을 제안받을 수 있습니다.

예를 들어 신제품 마케팅 전략을 고민할 때 서로 다른 고객층에 대한 홍보 아이디어를 탐색할 수 있습니다.

④ 자료 분석 지원

표나 통계자료를 이해하고 데이터를 분석하는 과정을 도울 수 있습니다.

적절한 데이터 분석 도구와 결합하면 계산, 시각화, 데이터 처리까지 수행할 수 있습니다.

⑤ 학습과 지식 습득

어려운 개념을 쉽게 설명하거나 학습자의 수준에 맞춰 내용을 재구성할 수 있습니다.

전문 용어를 이해하거나 새로운 직무 지식을 학습할 때도 유용합니다.

다만 이러한 작업을 잘 수행할 수 있다는 것이 모든 결과의 정확성을 보장한다는 의미는 아닙니다.

AI가 잘하는 업무와 최종적으로 사람이 확인해야 하는 업무를 구분하는 것이 중요합니다.

4. 생성형 AI의 가장 큰 한계, 환각(Hallucination)이란?

생성형 AI를 이해할 때 반드시 알아야 하는 개념이 있습니다.

바로 환각(Hallucination) 현상입니다.

AI 환각이란 AI가 사실과 다르거나 존재하지 않는 정보를 그럴듯한 답변으로 만들어내는 현상을 의미합니다.

문제는 AI가 잘못된 정보를 제시할 때도 매우 자연스럽고 자신감 있는 문장으로 답변할 수 있다는 점입니다.

예를 들어 다음과 같은 상황을 생각해 보겠습니다.

사례 1. 존재하지 않는 논문을 추천하는 AI

사용자가 AI에게 질문합니다.

"생성형 AI가 대학생의 학습 능력에 미치는 영향을 연구한 논문 5개를 알려줘."

AI는 논문 제목, 연구자 이름, 발표 연도까지 포함한 목록을 작성합니다.

그런데 실제로 검색해 보니 일부 논문은 존재하지 않습니다.

AI가 그럴듯한 논문 정보를 만들어낸 것입니다.

사례 2. 잘못된 기업 정보를 제시하는 AI

취업준비생이 AI에게 질문합니다.

"지원하려는 기업의 최근 3년간 매출액을 정리해 줘."

AI는 연도별 매출액과 증가율을 표로 정리합니다.

하지만 실제 공시자료와 비교해 보니 일부 수치가 다릅니다.

이 자료를 그대로 기업 분석 보고서에 활용한다면 잘못된 판단으로 이어질 수 있습니다.

사례 3. 존재하지 않는 법률 조항을 설명하는 AI

사용자가 특정 법률에 대한 설명을 요청합니다.

AI는 실제 법률처럼 보이는 조항 번호와 내용을 제시하지만, 확인해 보면 해당 조항이 존재하지 않거나 내용이 다를 수 있습니다.

이처럼 환각은 단순한 오타나 표현상의 실수가 아닙니다.

잘못된 사실을 근거로 판단하게 만들 수 있다는 점에서 주의가 필요합니다.

위 사례들은 환각 현상을 설명하기 위해 구성한 가상의 상황입니다.

5. AI는 왜 환각을 일으킬까?

AI가 환각을 일으키는 이유를 이해하려면 앞에서 살펴본 생성형 AI의 작동 원리를 다시 생각해 볼 필요가 있습니다.

언어 모델은 학습한 패턴과 입력된 문맥을 바탕으로 답변을 생성합니다.

하지만 이 과정이 모든 문장의 사실 여부를 외부 자료와 대조하는 방식으로 이루어지는 것은 아닙니다.

특히 다음과 같은 상황에서 잘못된 답변이 발생할 수 있습니다.

첫째, AI가 충분한 정보를 가지고 있지 않은 경우입니다.

학습 과정에서 다루지 못했거나 제공받은 자료에 없는 내용에 대해 답변을 만들어내면서 오류가 발생할 수 있습니다.

둘째, 질문이 모호하거나 정보가 부족한 경우입니다.

질문의 목적과 조건이 명확하지 않으면 AI가 부족한 맥락을 추정해 답변할 수 있습니다.

셋째, 최신 정보가 필요한 경우입니다.

AI 모델이 최신 정보에 접근할 수 없는 상황에서는 과거 정보를 바탕으로 답하거나 최근 변화를 반영하지 못할 수 있습니다.

넷째, 정확한 사실 확인이 필요한 경우입니다.

논문 제목, 통계 수치, 법률 조항, 기업 공시자료처럼 정확한 근거가 필요한 내용을 생성하면서 오류가 발생할 수 있습니다.

이 때문에 AI의 답변은 단순히 문장이 자연스러운지만 볼 것이 아니라 사실과 근거를 함께 검토해야 합니다.

또한 검색 기능이나 외부 데이터에 연결된 AI라 하더라도 오류가 완전히 사라지는 것은 아닙니다.

AI가 답변을 생성하는 능력과 그 답변이 사실인지 확인하는 능력은 구분해서 생각해야 합니다.

6. AI가 잘하는 일과 사람이 판단해야 하는 일은 다르다

AI를 효과적으로 활용하려면 어떤 업무를 AI에게 맡기고, 어떤 부분을 직접 확인해야 할지 판단해야 합니다.

예를 들어 기업의 마케팅 담당자가 새로운 상품의 판매 전략을 수립한다고 가정해 보겠습니다.

AI에게 경쟁사 분석, 고객층 분류, 마케팅 아이디어 생성을 요청할 수 있습니다.

하지만 AI가 제안한 전략이 실제 기업의 예산과 시장 상황에 적합한지는 별도로 검토해야 합니다.

AI는 업무를 지원하는 강력한 도구이지만 모든 상황에서 최종 판단을 대신할 수 있는 것은 아닙니다.

특히 채용, 금융, 의료, 법률처럼 잘못된 판단의 영향이 큰 영역에서는 더욱 신중한 검증이 필요합니다.

7. AI 활용 능력 평가에서 'AI 이해'가 중요한 이유

최근 기업의 AI 활용 역량 평가를 준비하는 취업준비생이라면 AI에 대한 기본적인 이해가 왜 필요한지 생각해 볼 필요가 있습니다.

예를 들어 다음과 같은 실무형 과제가 출제되었다고 가정해 보겠습니다.

"신규 상품의 판매 전략을 수립하기 위해 제공된 시장 자료를 분석하고, AI를 활용해 팀장에게 제출할 보고서를 작성하시오."

이때 단순히 AI에게 보고서 작성을 요청하는 것만으로는 충분하지 않습니다.

AI 활용 능력이 높은 지원자는 다음과 같은 과정을 거칠 수 있습니다.

1단계. AI의 역할을 구분합니다.

시장자료 요약, 경쟁사 비교, 전략 아이디어 발굴 등 AI가 도움을 줄 수 있는 업무를 먼저 정리합니다.

2단계. 필요한 자료를 제공합니다.

AI가 불확실한 정보를 추정하지 않도록 과제에서 제공한 시장자료와 분석 조건을 전달합니다.

3단계. AI의 답변을 검토합니다.

AI가 사용한 수치와 근거가 실제 제공된 자료와 일치하는지 확인합니다.

4단계. 오류와 부족한 부분을 보완합니다.

잘못된 분석을 수정하고 실제 실행 가능성을 고려해 전략을 개선합니다.

5단계. 최종 결과물을 작성합니다.

AI의 답변을 그대로 제출하는 것이 아니라 자신의 판단을 반영한 보고서를 완성합니다.

이 과정에서 중요한 역할을 하는 것이 바로 AI 이해 능력입니다.

AI가 잘못된 정보를 생성할 수 있다는 사실을 알고 있기 때문에 검증할 수 있고, AI의 한계를 이해하기 때문에 추가 자료를 제공할 수 있습니다.

즉, AI 이해는 AI를 활용한 문제 해결 능력의 중요한 출발점입니다.

8. 나의 AI 이해 능력을 확인해 보는 5가지 질문

자신이 AI를 얼마나 이해하고 있는지 간단하게 점검해 보겠습니다.

Q1. ChatGPT가 자신 있게 답변한 내용은 대부분 사실이라고 볼 수 있을까요?

그렇지 않습니다. 답변의 자신감이나 자연스러움은 사실의 정확성을 보장하지 않습니다.

Q2. AI가 추천한 논문이나 통계자료는 그대로 사용해도 될까요?

원본 자료와 출처를 확인해야 합니다. 실제로 존재하는 자료인지, 수치가 정확한지 검증하는 과정이 필요합니다.

Q3. AI에게 질문할 때 업무의 목적과 조건을 설명하는 것이 도움이 될까요?

그렇습니다. 배경과 목적, 제약조건 등을 제공하면 AI가 원하는 방향의 답변을 생성하는 데 도움이 됩니다.

Q4. 인터넷 검색 기능이 있는 AI는 환각 현상이 발생하지 않을까요?

그렇지 않습니다. 검색 결과를 잘못 해석하거나 신뢰할 수 없는 자료를 활용할 수 있으므로 검증이 필요합니다.

Q5. AI가 만든 보고서의 최종 판단과 책임도 AI에게 맡길 수 있을까요?

AI가 분석과 의사결정을 지원할 수는 있지만, 중요한 업무에서는 사람이 적절한 검토와 책임을 유지해야 합니다.

이 다섯 가지 질문에 대한 답변을 이해하고 있다면 생성형 AI를 올바르게 활용하기 위한 기초 개념을 갖추고 있다고 볼 수 있습니다.

다만 이것만으로 전체 AI 리터러시 수준을 정확하게 판정할 수 있는 것은 아닙니다.

9. AI 이해 능력을 높이는 실천 방법

AI 이해 능력을 높이기 위해 반드시 복잡한 프로그래밍이나 수학을 공부해야 하는 것은 아닙니다.

실제로 AI를 사용하면서 작동 원리와 한계를 경험하는 방법도 효과적입니다.

① 같은 질문을 다른 방식으로 요청해 보세요.

질문에 포함하는 배경정보와 조건을 바꾸면서 AI의 답변이 어떻게 달라지는지 확인합니다.

② AI가 제시한 정보를 직접 검증해 보세요.

통계, 논문, 기업 정보 등을 요청하고 실제 출처와 비교해 봅니다.

③ AI에게 모르는 것은 모른다고 답하도록 요청해 보세요.

확실하지 않은 내용과 추정한 내용을 구분하도록 지시하고, 실제로 그렇게 답변하는지 확인합니다.

④ AI의 강점과 약점을 비교해 보세요.

문장 요약, 아이디어 생성, 정확한 수치 계산, 최신 정보 탐색 등 서로 다른 업무에서 AI의 성능을 비교합니다.

⑤ AI를 활용한 뒤 최종 결과를 스스로 평가해 보세요.

AI를 사용한 결과가 실제 업무나 학습 목표에 얼마나 도움이 되었는지 검토합니다.

이러한 경험을 반복하면 단순히 AI를 사용하는 수준을 넘어 AI를 어떤 상황에서 어떻게 활용해야 하는지 판단하는 능력을 발전시킬 수 있습니다.

10. 커리어스코프 AI 활용 능력 검사

커리어스코프는 AI 활용 능력을 단순한 도구 사용 능력이 아니라 AI와 협업하면서 실제 문제를 해결하는 역량으로 바라봅니다.

이를 위해 업무상황 판단과 자료 기반 문제 해결을 평가하는 객관식형 검사, 인문학적 질문 탐구와 직무 문제 해결을 평가하는 주관식형 검사를 제공합니다.

검사 과정에서는 문제 이해, AI 활용 및 질문 설계, 자료 해석, 답변 검증, 최종 결과물 작성 등 다양한 역량을 살펴봅니다.

특히 AI의 특성과 한계를 이해하는 것은 효과적인 질문을 설계하고 AI의 결과물을 검증하기 위한 중요한 기초가 됩니다.

AI를 잘 활용하기 위해서는 AI가 무엇을 할 수 있는지뿐 아니라 무엇을 잘못할 수 있는지도 알아야 합니다.

마무리. AI를 잘 활용하려면 먼저 AI를 이해해야 한다

생성형 AI는 이제 일상생활과 업무에서 널리 활용되는 기술이 되었습니다.

우리는 AI를 통해 빠르게 정보를 정리하고, 새로운 아이디어를 얻고, 복잡한 업무를 효율적으로 수행할 수 있습니다.

하지만 AI가 제공하는 모든 답변을 그대로 믿을 수는 없습니다.

AI는 잘못된 정보를 생성할 수도 있고, 충분한 근거 없이 그럴듯한 답변을 만들어낼 수도 있습니다.

따라서 AI를 활용하는 사람에게 필요한 것은 단순한 사용 경험만이 아닙니다.

AI의 작동 원리와 가능성, 한계를 이해하고 결과를 스스로 판단할 수 있는 능력입니다.

AI 리터러시의 첫 번째 역량인 AI 이해는 이러한 판단을 가능하게 하는 기초입니다.

AI 시대에 중요한 것은 AI가 모든 답을 알고 있다고 생각하는 것이 아니라, AI의 답을 언제 활용하고 언제 검증해야 하는지 아는 것입니다.

AI 활용 능력, 이제는 직접 확인해 보세요.

커리어스코프 AI 활용 능력 검사를 통해 AI를 활용한 문제 해결 과정을 경험하고 자신의 역량을 확인해 보세요.

커리어스코프 AI 활용 능력 검사

https://careerscope.co.kr/ai-literacy