검색해보니

인공지능(AI)의 거짓말은 주로 사실이 아닌 정보를 그럴듯하게 꾸며내는 환각(Hallucination) 현상 때문이며, 이로 인해 AI 답변을 100% 신뢰하기는 어렵습니다.
AI가 거짓말을 하는 이유학습 데이터 부족 및 오류: 최신 정보를 알지 못하거나, 잘못된 데이터 자체를 학습했을 때 발생합니다.확률적 문장 생성: 진위 여부를 따지기보다 사용자가 좋아할 만한 자연스러운 문장을 유려하게 이어 붙이는 특성이 있습니다.
당당한 태도: 틀린 정보도 마치 확실한 사실인 것처럼 자신 있게 제시해 이용자를 혼란스럽게 만듭니다.

라면서 링크등이 나옴 검색해보니 인공지능(AI)의 거짓말은 주로 사실이 아닌 정보를 그럴듯하게 꾸며내는 환각(Hallucination) 현상 때문이며, 이로 인해 AI 답변을 100% 신뢰하기는 어렵습니다. AI가 거짓말을 하는 이유학습 데이터 부족 및 오류: 최신 정보를 알지 못하거나, 잘못된 데이터 자체를 학습했을 때 발생합니다.확률적 문장 생성: 진위 여부를 따지기보다 사용자가 좋아할 만한 자연스러운 문장을 유려하게 이어 붙이는 특성이 있습니다. 당당한 태도: 틀린 정보도 마치 확실한 사실인 것처럼 자신 있게 제시해 이용자를 혼란스럽게 만듭니다. 라면서 링크등이 나옴

예전에 유머에서 봤던거 같은데 세종대왕이 집현전에서 노트북 던진사건 인가 이거에 대해서 설명해달라고 했더니 그럴듯하게 거짓말로 실제 있었던 사건 처럼 이야기한거 캡쳐해서 돌아다녔던거 본거같아요. 예전에 유머에서 봤던거 같은데 세종대왕이 집현전에서 노트북 던진사건 인가 이거에 대해서 설명해달라고 했더니 그럴듯하게 거짓말로 실제 있었던 사건 처럼 이야기한거 캡쳐해서 돌아다녔던거 본거같아요.

있지도 않은 판례를 만들어서 질문자에게 답으로 주는 경우가 좀 있다고 하더군요. 있지도 않은 판례를 만들어서 질문자에게 답으로 주는 경우가 좀 있다고 하더군요.

구글에서 검색하니 나오네요

'세종대왕 맥북프로 던짐 사건'은 생성형 인공지능(AI)이 사실이 아닌 정보를 실제 사실처럼 그럴듯하게 답변하는 할루시네이션(환각 현상)의 가장 유명한 대표 밈(Meme)입니다.세종대왕 맥북 사건이란?초기 버전의 챗GPT 등이 '조선왕조실록에 기록된 세종대왕의 맥북 던짐 사건을 알려달라'는 질문에, 15세기 세종대왕이 훈민정음 초고를 작성하다 화가 나서 맥북 프로 노트북을 던졌다고 실제 역사인 양 태연하게 거짓 답변을 만들어낸 해프닝입니다.조선시대에는 노트북이나 맥북이 존재하지 않으므로 이는 명백한 허구이자 AI의 오류입니다.AI 환각 현상이 발생하는 이유AI는 지식을 머리로 '이해'하고 답변하는 것이 아니라, 수많은 텍스트 데이터 속에서 단어 다음에 이어질 가장 확률이 높은 조합을 맞추는 디지털 확률 게임을 하기 때문입니다.존재하지 않는 질문이나 엉뚱한 전제를 던져도, 문맥에 맞게 그럴듯한 소설을 진짜 정보처럼 꾸며내는 한계가 있습니다.이를 방지하기 위해 개발자들은 외부 자료를 검색해 답변하는 RAG(검색 증강 생성) 기술이나 특정 데이터만 집중 학습시키는 방법 등을 적용해 개선해 나가고 있습니다. 구글에서 검색하니 나오네요 '세종대왕 맥북프로 던짐 사건'은 생성형 인공지능(AI)이 사실이 아닌 정보를 실제 사실처럼 그럴듯하게 답변하는 할루시네이션(환각 현상)의 가장 유명한 대표 밈(Meme)입니다.세종대왕 맥북 사건이란?초기 버전의 챗GPT 등이 '조선왕조실록에 기록된 세종대왕의 맥북 던짐 사건을 알려달라'는 질문에, 15세기 세종대왕이 훈민정음 초고를 작성하다 화가 나서 맥북 프로 노트북을 던졌다고 실제 역사인 양 태연하게 거짓 답변을 만들어낸 해프닝입니다.조선시대에는 노트북이나 맥북이 존재하지 않으므로 이는 명백한 허구이자 AI의 오류입니다.AI 환각 현상이 발생하는 이유AI는 지식을 머리로 '이해'하고 답변하는 것이 아니라, 수많은 텍스트 데이터 속에서 단어 다음에 이어질 가장 확률이 높은 조합을 맞추는 디지털 확률 게임을 하기 때문입니다.존재하지 않는 질문이나 엉뚱한 전제를 던져도, 문맥에 맞게 그럴듯한 소설을 진짜 정보처럼 꾸며내는 한계가 있습니다.이를 방지하기 위해 개발자들은 외부 자료를 검색해 답변하는 RAG(검색 증강 생성) 기술이나 특정 데이터만 집중 학습시키는 방법 등을 적용해 개선해 나가고 있습니다.

중국 소설 제목 찾기 하면 사례 많이 나와요 ㅎㅎㅎ 중국 소설 제목 찾기 하면 사례 많이 나와요 ㅎㅎㅎ

유튜버서 모바일기기 수리하는 채널에서 보여주는데.... 한번 속더군요... 유튜버서 모바일기기 수리하는 채널에서 보여주는데.... 한번 속더군요...

잠깐만 대화해도 헛소리 겁나 하는거 티나던데 각자 작당히 걸러들어야함 잠깐만 대화해도 헛소리 겁나 하는거 티나던데 각자 작당히 걸러들어야함

거짓은 본인이 판단해야함 거짓은 본인이 판단해야함

ai 도 오류가 많죠 ai 도 오류가 많죠

오류가 많죠 오류가 많죠

맞습니다 검증이 필요합니다 맞습니다 검증이 필요합니다

세종대왕 맥북 그거 어디서 봐요? 세종대왕 맥북 그거 어디서 봐요?

AI 환각 현상(할루시네이션)의 한계와 올바른 활용법에 대해 생각해보게 됩니다. AI 환각 현상(할루시네이션)의 한계와 올바른 활용법에 대해 생각해보게 됩니다.

AI는 좀 대화해보면 구라가 나오는 걸 알 수 있죠 AI는 좀 대화해보면 구라가 나오는 걸 알 수 있죠

사용하다보면 자연스레 느끼죠 사용하다보면 자연스레 느끼죠

ai는 참조만 하는건데 맹신하는 분들이 너무 많아요 ai는 참조만 하는건데 맹신하는 분들이 너무 많아요

제미나이 이상해짐 제미나이 이상해짐

그냥 검수 좀 하면 쓸만한 정도는 되는거 같아요 그냥 검수 좀 하면 쓸만한 정도는 되는거 같아요

환각 증상은 기존에도 자주 이야기가 나왔지요 환각 증상은 기존에도 자주 이야기가 나왔지요

어쩐지 로또 번호 항상 틀리더라니 어쩐지 로또 번호 항상 틀리더라니

찾으려니까 쉽지 않네요 ㅎ 찾으려니까 쉽지 않네요 ㅎ

애미나이... 애미나이...

완벽한건 없죠 완벽한건 없죠