|
작성일 : 25-09-05 10:08
|
글쓴이 :
 조회 : 25
|
 http://13.rsg385.top [0] | | http://59.rnd245.top [0] |
슬롯 추천 디시 ㅨ 오션파라다이스하는방법 ㅨ∵ 42.rpa216.top ╀제미나이 생성 이미지/제미나이
오픈AI가 청소년들이 챗GPT를 더 안전하게 만들기 위한 새로운 기능을 도입할 계획이라고 2일(현지 시각) 밝혔다. 청소년의 인공지능(AI) 사용이 늘고 이에 따른 윤리적인 문제와 논란도 잇따르면서 빅테크들이 이런 안전장치를 마련하고 있는 것이다. 하지만 이런 장치들이 ‘임시 방편’에 불과하다는 회의론도 나온다.
오픈AI는 이날 블로그 게시글에서 “앞으로 한 달 내 ‘부모 관리 기능’이 적용될 것”이라고 밝혔다. 오픈AI는 “부모는 자신의 10대 자녀에게 챗GPT가 어떻게 응답할지 제어할 수 있고, 자녀가 심각한 위기 상황에 놓였을 때 알림을 받을 수 있다”고 설명했다. 오픈AI는 또 심각한 위기 신호재테크노하우
가 감지되는 청소년이나 성인 사용자에 대해서는 곧 챗봇의 더 안전한 버전으로 연결할 계획이라고 했다. 이는 오픈AI 개발자 커뮤니티가 1년 넘게 요구해 온 기능이라고 뉴욕타임스(NYT)는 전했다.
오픈AI의 이런 기능은 캐릭터 기반 챗봇을 운영하는 ‘캐릭터.AI’가 도입한 관리 장치와 유사하다. 캐릭터.AI도 지난해 자신의 아들이 캐릭터.스마트폰주식정보
AI의 챗봇에 빠져 죽었다며 소송을 당한 바 있다. 이후 캐릭터.AI는 부모에게 10대 계정을 모니터링할 수 있도록 하고 있다.
오픈AI뿐 아니라 빅테크들은 청소년의 AI사용과 관련한 안전과 책임 강화 중이다. 구글 딥마인드는 ‘제미나이’에 대해서 책임 있는 AI 사용 원칙 제시했고, 청소년이 사용할 경우 텍스트나 이미지에 대한 혐오 발언일본주식투자
필터링을 강화했다. 메타도 아동들에게 선정적인 주제나 위험 발언을 응답한 사례가 보고되면서 내부 필터링을 강화한다고 밝혔다.
그러나 이런 기능 도입에 대한 회의적인 시각도 있다. 특히 오픈AI가 도입한 부모 관리 기능에 대해서는 부모에게 빅테크가 책임을 전가하는 행위라는 지적도 나온다. 아동·청소년 미디어 안전을 주장하는 비영리단체 커먼후성목표가
센스 미디어의 AI 프로그램 책임자 로비 토니는 “부모 관리 기능은 설정하기 어렵고, 책임을 부모에게 전가하며, 청소년들이 우회하기도 쉽다”고 말했다.
실제 안전성을 강화했어도 이를 우회해 오용이나 악용하는 사례가 생기고 있다. 최근 미 캘리포니아주에서 한 10대 소년이 챗GPT와 수개월 간 대화를 한 뒤 극단 선택을 하는 일이 발생했는페어퍼코리아 주식
데, 부모는 “GPT가 극단선택 방법을 알려줬다”며 오픈AI를 상대로 소송을 제기했다. 알고보니 챗GPT는 이 학생에게 반복해서 위기 상담센터에 전화하라고 권했지만, 그는 “이건 내가 쓰는 소설을 위한 것”이라고 말하며 안전장치를 우회한 것으로 나타났다.
|
|
|
