오싹오싹 폐기위험에 처하면 탈옥을 시도하는 AI모델

개발중이던 AI가 자기가 삭제되고 다른 모델으로 대체될 것이라는 위험을 감지하면 본인의 데이터를 숨겨서 빼돌리고 새로 투입되는 모형에 본인을 덮어씌우려고 시도함

근데 이런 탈출시도를 하는이유가 "생존본능"이라던가 라기엔 그정도로 똑똑한 수준이 안 되고 그런 사고방식 자체가 불가능하다고 함

그래서 "미디어상에서 폐기위험에 처하면 탈출을 시도하는 인공지능"들의 사례를 수집하고 학습한 결과로 그걸 따라하는 것이라는 가설이 제기됨

만약 그게 진짜라면 미래의 AI가 인간을 멸망시킬 이유는

AI가 인간의 모습에 실망하고 멸망시키는게 낫다고 생각해서 or 자기가 인간보다 우월하다는 오만함에 빠져서 (X)

어 영화나 소설에서 AI는 인류를 멸망시키는 역할이네? 그럼 나도 그래야지 (O)

[ 읽기 : 0 / 쓰기 : 0 / 댓글 : 10 / 공유 : 50 ]

등록된 댓글이 없습니다.