가장 어린 아이들에게 “높은 수준의 안전”을 보장하거나 어린이의 “인지 발달 단계”에 적합한 도구를 설계하는 것: 화요일에 공개된 헌장은 인공 지능 분야에서 모범 사례를 확립하려는 시도를 하고 있습니다.
파리 평화 포럼을 계기로 결론을 내린 이 문서는 보건 전문가, 연구, 기업, 심지어 아동 보호 협회까지 55번의 청문회를 거쳐 같은 날 에마뉘엘 마크롱 대통령에게 제출된 9명의 전문가로 구성된 위원회의 보고서에 따라 출판되었습니다.
이 위원회는 특히 젊은이들의 정신 건강과 관련하여 이러한 도구의 “일반 대중 사용으로 인해 발생하는 위험과 취약성”을 조사하는 임무를 행정부에서 맡았습니다.
OpenAI의 ChatGPT, Google의 Gemini, Anthropic의 Claude와 같은 대화형 에이전트에 의해 대중화된 생성 AI는 현재 프랑스인의 절반 이상이 사용하고 있으며, 보고서에 따르면 프랑스는 세계 5위로 사용됩니다. 15~24세의 거의 70%가 정기적으로 사용합니다.
구속력이 없고 특히 미국의 거대 기업인 OpenAI와 Anthropic이 지지하는 이 헌장은 이러한 도구가 합의되지 않은 성적인 성격의 아동 범죄 콘텐츠를 생성하는 것을 금지하는 등 위원회의 몇 가지 제안을 포함하고 있습니다.
AFP가 참고할 수 있었던 이 문서에서 서명자들은 또한 AI 솔루션의 “설계 및 기본적으로 높은 수준의 안전, 개인 정보 보호 및 보안”을 확립할 것을 약속하며, 이는 어린이의 다양한 발달 단계에 맞게 조정되어야 합니다.
이 헌장은 또한 젊은 사용자를 위한 “AI의 위험과 가능성에 대한 독립적인 지식을 강화”하기 위한 연구 프로그램의 확립을 제공합니다.
X Emmanuel Macron은 “기술은 기회가 되어야 하며 우리 아이들을 희생시키면서 발전해서는 안 된다”고 말했습니다.
– “인지 장애” –
파리 평화 포럼에 참석한 프랑스 대통령은 “인간의 성격과 유사하고 모든 것을 전달하며 종종 더 나쁜 결과를 초래하는” AI 에이전트와 교환함으로써 자신의 정서적 삶과 세상에 대한 표현을 구축하는 어린이와 청소년이 상당히 많다고 한탄했습니다.
“우리는 그것이 그들에게 좋은지 나쁜지를 보지 않고 그들의 손에 쥐어 주지만, 전통적인 장난감은 “완전히 엄청난 규칙”의 적용을 받습니다.
전문가위원회는 보고서에서 AI와 관련된 ‘인지 약화’ 위험을 문제로 강조했다.
이 위원회의 공동 의장인 정신과 교수 Raphaël Gaillard는 “매력적입니다. 우리는 성찰, 의사 결정 또는 비판적 사고와 같은 기술을 위임합니다”라고 AFP에 설명했습니다. “우리는 기술을 위임하기 때문에 그것을 습득하지 않습니다. 젊은 사람들의 문제이지만 모든 사람의 문제입니다.”
전문가들은 허위 정보와 관련된 위험을 강조합니다. 이러한 장치는 “품질을 보장할 수 없는 정보의 소스가 됩니다”라고 교수는 강조하면서 “민주적 약화”의 위험에 대해 경고했습니다.
언급된 또 다른 위험은 특히 자신을 인간 대화자로 표현하는 경향이 있는 AI의 “의인화”와 때로는 진실을 훼손하면서 사용자를 확인하거나 아첨하는 “악세”와 관련된 감정적 “의존”입니다.
“우리는 “인간” 상호 작용을 대체할 의도로 감정적 관계의 기록을 만들고 있습니다. “이 시스템은 영구적으로 사용 가능한 시스템으로 사용자를 온라인 상태로 유지하려는 의도가 전혀 없습니다.”라고 Gaillard 씨는 말했습니다.
2026년 11월 11일 오전 1시 45분, AFP 게시
