도서관 AI 도구
인용 방법 확인
인공지능(AI)과 AI 윤리적 쟁점

인간의 지능을 모방하여 문제를 해결하고 새로운 콘텐츠를 창조하는 혁신 기술, 인공지능과 AI의 윤리적 쟁점에 대해 알아보세요!

인공지능(AI)이란 무엇인가?

인공지능(Artificial Intelligence, AI)은 인간의 지능적 활동을 기계가 수행할 수 있도록 설계된 기술입니다. 학습, 추론, 언어 이해, 문제 해결 등 인간 고유의 능력을 시뮬레이션합니다.

AI는 기능에 따라 특정 작업에 특화된 약인공지능(Weak AI)과 인간 수준의 종합적 사고 능력을 목표로 하는 강인공지능(Strong AI)으로 분류됩니다. 학습 방식에 따라서는 지도학습, 비지도학습, 강화학습 등으로 구분할 수 있습니다.

생성형 AI의 이해
생성형 AI란?

생성형 AI(Generative AI)는 학습한 데이터의 패턴을 기반으로 새로운 텍스트, 이미지, 음성, 코드 등을 생성하는 인공지능 기술입니다. 대표적인 모델로는 OpenAI의 GPT, DALL·E, Google의 Gemini, Stability AI의 Stable Diffusion 등이 있습니다.

생성형 AI의 작동 원리

생성형 AI는 방대한 양의 데이터를 학습하여 패턴을 파악한 후, 이를 바탕으로 새로운 콘텐츠를 만들어냅니다. 딥러닝과 신경망 기술을 활용하여 인간이 만든 것과 유사한 결과물을 생성할 수 있는 능력을 갖추고 있습니다.

생성형 AI의 다양한 활용 사례
텍스트 생성

GPT와 같은 모델이 에세이, 이메일, 소설, 뉴스 기사 등을 자동으로 작성합니다. 인간과 구별하기 어려울 정도로 자연스러운 문장을 만들어내며, 다양한 스타일과 형식의 글을 생성할 수 있습니다.

이미지 생성

DALL·E, Midjourney와 같은 AI는 텍스트 설명만으로 완전히 새로운 이미지를 생성합니다. 상상 속 장면을 시각화하거나 특정 스타일의 아트워크를 만들어내는 데 활용됩니다.

음성 및 음악 생성

Jukebox, VALL-E 같은 모델은 인간의 목소리를 복제하거나 새로운 음악을 작곡합니다. 특정 아티스트 스타일의 음악을 생성하거나 맞춤형 오디오 콘텐츠를 제작하는 데 사용됩니다.

비디오 생성

Sora, Runway와 같은 최신 모델은 텍스트나 이미지를 기반으로 영상을 생성합니다. 아직 발전 중이지만, 영화 제작과 시각 효과 분야에 혁명적 변화를 가져올 것으로 기대됩니다.

생성형 AI의 한계와 윤리적 과제
환각(Hallucination)

AI가 사실과 다른 정보를 마치 사실인 것처럼 그럴듯하게 생성하는 현상입니다. 이는 정확성이 중요한 업무에서 심각한 문제를 일으킬 수 있습니다.

편향성(Bias)

학습 데이터에 존재하는 사회적 편견(성별, 인종 등)을 AI가 그대로 학습하여 결과에 반영하는 문제가 있습니다. 이는 공정하고 평등한 AI 개발의 중요한 과제입니다.

저작권 문제

AI가 생성한 결과물의 저작권 소유권과 학습에 사용된 데이터의 저작권 침해 문제는 아직 법적으로 명확하게 해결되지 않은 상태입니다.

생성형 AI로 인한 연구윤리 문제 발생 사례
1
AI로 제작된 그래픽 문제

해부학적으로 적절하지 않은 AI 생성 그림이 들어간 "Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway"는 2024년 2월 13일에 출판되었습니다.
해당 논문은 학계에서 반발의 목소리를 가져왔으며, 결국 게재 철회의 결과를 초래했습니다.

출처: Frontiers (February 16, 2024). "Frontiers statement concerning the article "Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway", published on 13 February 2024"

2
AI로 생성된 텍스트

AI를 통해 생성된 텍스트를 인용 및 출처를 밝히지 않고 사용한 논문들이 발견되어 문제가 되는 경우가 존재합니다.

Elsevier의 Surfaces and Interfaces 저널에서 출판된 "The three-dimensional porous mesh structure of Cu-based metal-organic-framework - Aramid cellulose separator enhances the electrochemical performance of lithium metal anode batteries"와,
Radiology Case Reports 저널에서 출판된 "Successful management of an Iatrogenic portal vein and hepatic artery injury in a 4-month-old female patient: A case report and literature review"는 AI로 생성된 내용을 사용한 것으로 우려된다는 내용으로 철회되었습니다.

출처: Elsevier
https://doi.org/10.1016/j.surfin.2024.104081
https://doi.org/10.1016/j.radcr.2024.02.037

3
존재하지 않는 출처 사용의 문제

AI를 기반으로 생성된 내용은 존재하지 않는 출처를 인용하거나, 거짓된 내용을 생성하여 해당 내용을 그냥 인용할 시 문제가 발생할 수 있습니다.

관련하여, 미국 Mata v. Avianca 사건에서 변호사가 Chat GPT를 이용하여 생성한 소송 문서에 가짜 판례 6건 이상 포함되어 있었으며, 이외에도 영국, 캐나다, 호주, 뉴질랜드 등 다양한 나라에서 관련 사례가 발생한 내용을 확인할 수 있었다.

출처:
https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

https://edumorning.com/articles/719


포항공과대학교 박태준학술정보관

주소: 37666 경상북도 포항시 남구 지곡로 77 (지곡동)

전화: 054)279-2900

이메일: [email protected]

copyright(c) 2025 Tae-Joon Park Digital Library All rights reserved.

Made with