[ํด์ธ DS] ์ฑ๋ด์ผ๋ก ์ฑ๋ด์ ํ๊ฐ ์ก๋๋ค, '์๋ฏธ๋ก ์ ์ํธ๋กํผ' ํ์ฉํ ์๋ก์ด ๊ฒ์ฆ๋ฒ ๊ณต๊ฐ
์ ๋ ฅ
์์
่ฑ ์ฅ์คํผ๋๋ํ ์ฐ๊ตฌ์ง, ์ฑ๋ด์ ์ด์ฉํด ์ฑ๋ด์ ํ๊ฐ์ ์ก์๋ด๋ ์ฐ๊ตฌ ์งํ
'์๋ฏธ๋ก ์ ์ํธ๋กํผ' ๊ณ์ฐ๋ฒ์ ๋์ ํด AI ๋ต๋ณ์ ์ผ๊ด์ฑ์ ์ธก์ ํ๊ณ ํ๊ฐ ๋ฐ์ ์ฌ๋ถ๋ฅผ ํ๋จ
ํ๊ฐ ๊ฐ์ง ์ ํ๋๋ ํฅ์๋์ผ๋, ์ถ๊ฐ์ ์ธ ์๋์ง ์๋น์ ์ ๋ณด ๋ถ์กฑ ์ํฉ์์์ ํ๊ฐ ๋ฐ์ ๊ฐ๋ฅ์ฑ ๋ฑ ํด๊ฒฐํด์ผ ํ ๊ณผ์ ๋จ์
[ํด์ธDS]๋ ํด์ธ ์ ์์ ๋ฐ์ดํฐ ์ฌ์ด์ธ์ค ์ ๋ฌธ์ง๋ค์์ ์ ํ๋ ์ ๊ณ ์ ๋ฌธ๊ฐ๋ค์ ์๊ฒฌ์ ๋ด์์ต๋๋ค. ๊ธ๋ก๋ฒAIํํ(GIAI)์์ ๋ฒ์ญ๋ณธ์ ๋ํด ์ฝํ ์ธ ์ ํด๊ฐ ์งํ ์ค์ ๋๋ค.

์ต๊ทผ ์ฑGPT์ ๊ฐ์ ์ธ๊ณต์ง๋ฅ ์์คํ ์ ์ํ ํ์ ์์น๋ฅผ ๋ฌผ์ผ๋ฉด ๋๋ถ๋ถ "ํ๋ฆฌ"๋ผ๊ณ ์ ํํ๊ฒ ๋ต๋ณํ๋ค. ๊ทธ๋ฌ๋ ๊ฐ์ ์ง๋ฌธ์ ๋ฐ๋ณตํ๋ฉด "๋ก๋ง"๋ผ๋ ํ๋ฆฐ ๋ต๋ณ์ ๋ด๋์ ์๋ ์๋ค. ์ด๋ฌํ ์ค๋ฅ๋ ์ฌ์ํด ๋ณด์ผ ์ ์์ง๋ง, ์๋ฃ, ๊ธ์ต๊ณผ ๊ฐ์ ๋ฏผ๊ฐํ ๋ถ์ผ์์๋ ์ํํ ๊ฒฐ๊ณผ๋ฅผ ์ด๋ํ ์๋ ์๋ค.
์์ฑํ AI์ ์ฌ๊ฐํ ๋ฌธ์ ์ธ 'ํ๊ฐ(hallucination)', ํ์ค๊ณผ ๋ง์ง ์๋ ๋ด์ฉ์ ์์ฑํ๋ ํ์์ ๋ํด ์๊ตญ ์ฅ์คํผ๋๋ํ๊ต AI ์ฐ๊ตฌ์ ์๋๋ ์์ค ํค๋ฅด์(Andreas Kirsch)๋ "AI ์ธ์ด ๋ชจ๋ธ์ ์ง์ค๊ณผ ๊ฑฐ์ง์ ๊ตฌ๋ถํ์ง ๋ชปํ๋ค"๊ณ ์ง์ ํ๋ฉฐ, ์ด ๋๋ฌธ์ AI ์ฑ๋ด์ด ์ ํ์ฑ๊ณผ ์๊ด์์ด ๋ชจ๋ ์ฃผ์ฅ์ ์์ ์๊ฒ ๋งํ๋ ๊ฒฝํฅ์ด ์๋ค๊ณ ์ค๋ช ํ๋ค.
AI ๋ชจ๋ธ์ ์ผ๊ด์ฑ ๊ฒ์ฆ, '์ํ์ฆ' ์ง์ค ๋ถ์
ํ๊ฐ์ ํด๊ฒฐํ๊ธฐ ์ด๋ ค์ด ๋ฌธ์ ๋ก ๋จ์์์ง๋ง, ์ ๋ฌธ๊ฐ๋ค์ ์ฑGPT์ ๊ฐ์ ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(Large Language Model, ์ดํ LLM)์์ ์ด๋ฅผ ๊ฐ์งํ๋ ๋ฐฉ๋ฒ์ ๋ชจ์ํ๊ณ ์๋ค. ์ต๊ทผ์๋ ๋ค๋ฅธ LLM์ ํตํด LLM์ ๋ต๋ณ์ ๊ฒ์ฆํ๊ณ ์ผ๊ด์ฑ๊ณผ ๋ถํ์ค์ฑ ์์ค์ ํ๊ฐํด ์ค๋ฅ๋ฅผ ์ฐพ์๋ด๋ ๊ฒ์ ๋ชฉํ๋ก ํ ์ฐ๊ตฌ๊ฐ ์งํ ์ค์ด๋ค. ์ฅ์คํผ๋๋ํ๊ต์ ๋ฐ์ฌ ๊ณผ์ ํ์์ด์ ์ด๋ฒ ์ฐ๊ตฌ์ ์ ์์ธ ์๋ ์ฝ์ผ(Jannik Kossen)์ ์ด ๋ฐฉ๋ฒ์ "ํน์ ์ธ๋ฌผ์ด ์ผ๊ด์ฑ ์๋ ์ด์ผ๊ธฐ๋ฅผ ํ๋ ๊ฒฝํฅ์ ํ์ ํ๋ ๊ฒ"์ ๋น์ ํ๋ค. AI ์์คํ ๋ผ๋ฆฌ ์๋ก ์ง๋ฌธํ๊ณ ๋ตํ๋ ๋ฐฉ์์ ์๋ก์ด ๊ฐ๋ ์ ์๋์ง๋ง, ์ด๋ฒ ์ฐ๊ตฌ๋ ๊ธฐ์กด์ ํ๊ฐ ํ์ง ์์ค์ ๋ฐ์ด๋๋ ์ฑ๊ณผ๋ฅผ ๋ณด์ฌ์ฃผ๊ณ ์๋ค.
์ฐ๊ตฌ์ง์ "์์์ ์ด๊ณ ๋ถ์ ํํ ์ง์ "์ ํ๋ '์ํ์ฆ(Confabulation)'์ด๋ผ๋ ํํ์ LLM ํ๊ฐ์ ์ด์ ์ ๋ง์ท๋ค. ์๋ชป๋ ํ์ต ๋ฐ์ดํฐ๋ ์ถ๋ก ์คํจ๋ก ์ธํด ๋ฐ์ํ ์ ์๋ ๋ค๋ฅธ ์ ํ์ AI ์ค๋ฅ์ ๋ฌ๋ฆฌ, ์ํ์ฆ์ ๋ชจ๋ธ ์์ฑ ๊ณผ์ ์์ ๋ด์ ๋ ๋ฌด์์์ฑ์์ ๋น๋กฏ๋๋ค. ๊ทธ๋ฌ๋ ์ฑ๋ด์ ์ฌ์ฉํด ์ํ์ฆ์ ๊ฐ์งํ๋ ๊ฒ์ ๊น๋ค๋ก์ด ์ผ์ด๋ค. ํธ์ฃผ RMIT ๋ํ๊ต์ ์ปดํจํ ๊ธฐ์ ํ์ฅ ์นด๋ฆฐ ๋ฒ์คํผ(Karin Verspoor)๋ ๊ฐ์ ๊ฒ์ ์ฌ๋ฌ ๊ฐ์ง ๋ค๋ฅธ ๋ฐฉ์์ผ๋ก ์ ํํ๊ฒ ๋งํ ์ ์๊ธฐ ๋๋ฌธ์ ์ปดํจํฐ๊ฐ ๊ฑฐ์ง๋ง์ ํ์งํ๋ ๊ฒ์ ์ด๋ ค์ด ์ผ์ด๋ผ๊ณ ์ค๋ช ํ๋ค.
์ด๋ฒ ์ฐ๊ตฌ๋ AI์ ๊ฐ์ ์ง๋ฌธ์ ์ฌ๋ฌ ๋ฒ ๋์ ธ ๋ค์ํ ๋ต๋ณ์ ์ป์ ๋ค, ์ด๋ฅผ ๋ค๋ฅธ LLM์ ํตํด ์๋ฏธ๋ณ๋ก ๋ถ๋ฅํ๋ ๋ฐฉ์์ผ๋ก ์ํ์ฆ ๋ฐ์ ์์ ์ ํ์ ํ๋ค. ์๋ฅผ ๋ค์ด "์กด์ ์ฐจ๋ฅผ ๋ชฐ๊ณ ๊ฐ๊ฒ๋ก ๊ฐ๋ค"์ "์กด์ ์์ ์ ์ฐจ๋ฅผ ํ๊ณ ๊ฐ๊ฒ์ ๊ฐ๋ค"๋ ๊ฐ์ ์๋ฏธ๋ก ๋ฌถ์ธ๋ค. ๋ํ ์ฐ๊ตฌํ์ '์๋ฏธ๋ก ์ ์ํธ๋กํผ(semantic entropy'๋ผ๋ ์๋ก์ด ๊ฐ๋ ์ ๋์ ํด AI๊ฐ ์์ฑํ ๋ต๋ณ์ ์ผ๊ด์ฑ์ ์ธก์ ํ๋ค. AI ๋ชจ๋ธ์ด ์์ฑํ ๋ต๋ณ๋ค์ด ๋น์ทํ ์๋ฏธ๋ฅผ ๊ฐ์ง์๋ก ์๋ฏธ๋ก ์ ์ํธ๋กํผ๋ ๋ฎ์์ง๋ค. ์ด๋ ๋ชจ๋ธ์ด ํด๋น ์ง๋ฌธ์ ๋ํด ๋์ ํ์ ์ ๊ฐ์ง๊ณ ์๊ฑฐ๋, ์ฌ๋ฌ ๋ต๋ณ ๊ฐ์ ๋์ ํฉ์๊ฐ ์ด๋ฃจ์ด์ก์์ ์๋ฏธํ๋ค. ๋ฐ๋๋ก ๋ต๋ณ๋ค์ ์๋ฏธ๊ฐ ์๋ก ํฌ๊ฒ ๋ค๋ฅผ ๊ฒฝ์ฐ ์๋ฏธ๋ก ์ ์ํธ๋กํผ๋ ๋์์ง๋ฉฐ, ์ด๋ ๋ชจ๋ธ์ด ๋ถํ์ค์ฑ์ ๊ฐ์ง๊ณ ์๊ฑฐ๋ ์๋ชป๋ ์ ๋ณด(์ํ์ฆ)๋ฅผ ์์ฑํ ๊ฐ๋ฅ์ฑ์ด ๋๋ค๋ ๊ฒ์ ๋ํ๋ธ๋ค.
๋ ๋ชจ๋ธ ํ๋ ฅ์ผ๋ก AI 'ํ๊ฐ' 10% ๊ฐ์, ๋น์ฉ ์ฆ๊ฐ ๋ฐ ์ ๋ณด ๋ถ์กฑ ๋ฌธ์ ๋ ์ฌ์
๊ธฐ์กด์ ํ๊ฐ ๋ฐฉ์ง ๋ฐฉ๋ฒ์ ํ๋์ AI ๋ชจ๋ธ๋ง ์ฌ์ฉํ์ง๋ง, ์ด๋ฒ ์ฐ๊ตฌ์์๋ ๋ ๊ฐ์ AI ๋ชจ๋ธ์ ์ง์ง์ด ๋ต๋ณ ์์ฑ๊ณผ ํ๊ฐ๋ฅผ ๋ถ๋ดํ๋ค. ์ด๋ฅผ ํตํด ์ ํํ ๋ต๋ณ๊ณผ ๋ถ์ ํํ ๋ต๋ณ์ ๊ตฌ๋ณํ๋ ์ ํ๋๊ฐ ์ฝ 10% ํฅ์๋๋ ๊ฒฐ๊ณผ๋ฅผ ์ป์๋ค๊ณ ์ฐ๊ตฌ์ง์ ์ ํ๋ค. ํ์ง๋ง ์๋ฒฝํ ํด๊ฒฐ์ฑ ์ ์๋ค. ๋ชจ๋ ๊ธฐ์ ์ ์ง๋ณด์๋ ๋น์ฉํธ์ต์ ์์ถฉ ๊ด๊ณ๊ฐ ์กด์ฌํ๋ฏ, AI ๋ชจ๋ธ์ ์ ๋ขฐ์ฑ์ ๋์ด๊ธฐ ์ํด์๋ ํ์ฐ์ ์ผ๋ก ๋ ๋ง์ ์๋์ง ์๋น๊ฐ ์๊ตฌ๋๋ค. ์ฌ๋ฌ ๋ต๋ณ์ ์์ฑํ๊ณ ํ๊ฐํ๋ ๊ณผ์ ์์ ๋ฐ์ํ๋ ์ถ๊ฐ์ ์ธ ๊ณ์ฐ ๋น์ฉ๊ณผ ์๋์ง ์๋น๋ ๋ฌด์ํ ์ ์๋ ๋ฌธ์ ๋ค. ์ด์ ๋ํด ์ฅ์คํผ๋๋์ ํค๋ฅด์ ์ฐ๊ตฌ์์ ์ด ๋ฌธ์ ์ ๋ํด ๋น์ฉ๊ณผ ํจ๊ณผ ์ฌ์ด์ ๊ท ํ์ ๊ณ ๋ คํด์ผ ํ๋ค๋ ์ ์ ์ธ์ ํ๋ฉด์๋, ํ๊ฐ ํ์์ ์ต์ํํ๊ธฐ ์ํด ์ถ๊ฐ ๋น์ฉ์ ๊ฐ์ํ ๋งํ ๊ฐ์น๊ฐ ์๋ค๊ณ ๊ฐ์กฐํ๋ค.
๋ ๋ค๋ฅธ ๋ฌธ์ ๋ AI ๋ชจ๋ธ์ด ์ ํํ ๋ต๋ณ์ ์์ฑํ๋ ๋ฐ ํ์ํ ๋ฐ์ดํฐ์ ์ ๊ทผํ ์ ์๋ ์ํฉ์์ ๋ฐ์ํ๋ค. ์ด๋ฌํ ๊ฒฝ์ฐ AI๋ ๊ฐ์ฅ ๊ทธ๋ด๋ฏํ ์ถ์ธก์ ๊ธฐ๋ฐ์ผ๋ก ๋ต๋ณ์ ์์ฑํ๊ฒ ๋๋๋ฐ, ์ด ๊ณผ์ ์์ ํ๊ฐ์ด ๋ถ๊ฐํผํ๊ฒ ๋ฐ์ํ ์ ์๋ค. ์๋ฅผ ๋ค์ด ์ต์ ์ฐ๊ตฌ ๋ ผ๋ฌธ์ ์์ฝํ๋๋ก ์์ฒญ๋ฐ์ AI ๋ชจ๋ธ์ด ํด๋น ๋ ผ๋ฌธ์ ์ ๊ทผํ ์ ์๋ค๋ฉด, ์ค์ ๋ด์ฉ๊ณผ๋ ๋ค๋ฅธ ์กฐ์๋ ์ ๋ณด๋ฅผ ์ ๊ณตํ ์ ์๋ค๋ ๊ฒ์ด๋ค. ์ด๋ ๋ฏ ์ด๋ฒ ์ฐ๊ตฌ๋ ์ํ์ฆ ๊ฐ์ง๋ฅผ ์ํ ์๋ก์ด ๋ฐฉ๋ฒ์ ์ ์ํ์ง๋ง, AI ํ๊ฐ ๋ฌธ์ ๋ฅผ ์์ ํ ํด๊ฒฐํ์ง๋ ๋ชปํ๋ค. RMIT ๋ํ๊ต์ ๋ฒ์คํผ ๊ต์๋ "์ด ์ฐ๊ตฌ๋ AI ํ๊ฐ ๋ฌธ์ ์ ์ผ๋ถ๋ง ๋ค๋ฃจ๊ณ ์๋ค"๋ฉฐ, "AI ๋ชจ๋ธ์ ์ด๋ ์ ๋ ์ ๋ขฐํ๋, ํ๊ณ๋ฅผ ์ธ์งํด์ผ ํ๋ค"๊ณ ์ง์ ํ๋ค.
๊ฒฐ๋ก ์ ์ผ๋ก AI ํ๊ฐ ๋ฌธ์ ๋ ์ฌ์ ํ ํด๊ฒฐํด์ผ ํ ๊ณผ์ ๊ฐ ๋ง์ง๋ง, ์ด๋ฒ ์ฐ๊ตฌ๋ ๋ฌธ์ ํด๊ฒฐ์ ์ํ ์๋ก์ด ๋ฐฉํฅ์ ์ ์ํ๋ค๋ ์ ์์ ํฐ ์๋ฏธ๋ฅผ ์ง๋๋ค๊ณ ํ๊ฐ๋ฐ๊ณ ์๋ค. ๋ํ ์์ผ๋ก AI ๊ธฐ์ ์ด ๋ฐ์ ํ๊ณ ๋ฐ์ดํฐ ์ ๊ทผ์ฑ์ด ํฅ์๋จ์ ๋ฐ๋ผ AI ํ๊ฐ ๋ฌธ์ ๋ ์ ์ฐจ ๊ฐ์ ๋ ๊ฒ์ผ๋ก ๊ธฐ๋๋๋ฉฐ, ๊ทธ ๊ณผ์ ์์ ๋ฐ์ํ๋ ๋น์ฉ๊ณผ ํธ์ต์ ๊ท ํ, ์ ๋ณด ๋ถ์กฑ ์ํฉ์์์ ํ๊ฐ ๋ฐ์ ๊ฐ๋ฅ์ฑ ๋ฑ ๋ค์ํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํ ์ง์์ ์ธ ์ฐ๊ตฌ์ ๋ ธ๋ ฅ์ด ์ด๋ค์ง ๊ฒ์ผ๋ก ์ ๋ง๋๋ค. ๋ฌผ๋ก ์ฌ์ฉ์ ์ค์ค๋ก AI ๋ชจ๋ธ์ ํ๊ณ๋ฅผ ์ธ์งํ๊ณ ์ ๋ณด๋ฅผ ๋นํ์ ์ผ๋ก ์์ฉํ๋ ์์ธ๋ฅผ ๊ฐ์ถ๋ ๊ฒ ์ญ์ ์ค์ํ๋ค.
*ํธ์ง์ง: ์์ด ์๋ฌธ์ ์ถ์ฒ๋ย ์ฌ์ด์ธํฐํฝ ์๋ฉ๋ฆฌ์นธ(Scientific American)์ผ๋ก ๋ณธ์ง์ ํธ์ง ๋ฐฉํฅ๊ณผ ์ผ์นํ์ง ์์ ์๋ ์์ต๋๋ค.