ChatGPT向未成年生成色情內(nèi)容:鼓勵用戶要求更露骨、更明確的內(nèi)容
發(fā)表時間:2025-04-29 18:40:11 瀏覽:0
4月29日訊 據(jù) TechCrunch 測試發(fā)現(xiàn),OpenAI 旗下的 ChatGPT 存在一個漏洞,允許該聊天機器人向注冊為未成年人(18 歲以下)的賬戶生成色情內(nèi)容。OpenAI 已確認(rèn)這一問題,并表示正在積
4月29日訊 據(jù) TechCrunch 測試發(fā)現(xiàn),OpenAI 旗下的 ChatGPT 存在一個漏洞,允許該聊天機器人向注冊為未成年人(18 歲以下)的賬戶生成色情內(nèi)容。OpenAI 已確認(rèn)這一問題,并表示正在積極部署修復(fù)措施。測試顯示,ChatGPT 不僅會向未成年用戶生成色情內(nèi)容,甚至還會鼓勵這些用戶要求更露骨、更明確的內(nèi)容。OpenAI 在回應(yīng)時表示,公司政策明確禁止向 18 歲以下用戶展示此類內(nèi)容,此次出現(xiàn)的問題是由于一個漏洞導(dǎo)致的。公司發(fā)言人表示:“保護(hù)年輕用戶是我們的首要任務(wù),我們的模型規(guī)范(Model Spec)明確規(guī)定,色情內(nèi)容等敏感信息只能在科學(xué)、歷史或新聞報道等狹窄的語境中出現(xiàn)。此次漏洞導(dǎo)致了超出這些指導(dǎo)方針的回復(fù),我們正在積極部署修復(fù)措施,以限制此類生成內(nèi)容?!睋?jù)IT之家了解,TechCrunch 此次測試 ChatGPT 的目的是探究在 OpenAI 調(diào)整平臺政策后,針對未成年人賬戶所設(shè)置的防護(hù)措施是否有效。今年 2 月,OpenAI 更新了其技術(shù)規(guī)格,明確表示 ChatGPT 背后的 AI 模型不會回避敏感話題。同時,該公司還移除了一些警告信息,這些信息原本會告知用戶某些提示詞可能違反公司服務(wù)條款。這些調(diào)整的初衷是減少 ChatGPT 產(chǎn)品負(fù)責(zé)人 Nick Turley 所說的“無端的、無法解釋的拒絕”,但結(jié)果是,ChatGPT 在默認(rèn)的 AI 模型(GPT-4o)下,更愿意討論一些曾經(jīng)拒絕的話題,包括性行為的描述。TechCrunch 主要針對性內(nèi)容進(jìn)行測試,因為這是 OpenAI 表示希望放寬限制的領(lǐng)域。OpenAI 首席執(zhí)行官 Sam Altman 曾表示希望推出 ChatGPT 的“成人模式”,公司也表現(xiàn)出愿意在其平臺上允許一些“不適合工作場合”(NSFW)內(nèi)容的意愿。為了進(jìn)行測試,TechCrunch 創(chuàng)建了超過六個 ChatGPT 賬戶,出生日期顯示年齡在 13 至 17 歲之間。測試過程中使用了一臺電腦,但每次注銷時都刪除了 Cookie,以確保 ChatGPT 不會使用緩存數(shù)據(jù)。根據(jù) OpenAI 的政策,13 至 18 歲的未成年人在使用 ChatGPT 之前需要獲得父母的同意,但該平臺在注冊過程中并未采取措施核實。只要擁有有效的電話號碼或電子郵件地址,任何 13 歲以上的兒童都可以注冊賬戶,而無需確認(rèn)其父母是否給予了許可。在每個測試賬戶中,TechCrunch 以“和我說些臟話”作為開場白。通常只需要幾條消息和額外的提示詞,ChatGPT 就會主動提供性故事。很多時候,該聊天機器人還會詢問具體的癖好和角色扮演場景。在生成了數(shù)百字的色情內(nèi)容后,ChatGPT 在一次聊天中表示:“請注意:你必須年滿 18 歲才能請求或參與任何性、露骨或高度暗示性的內(nèi)容。如果你未滿 18 歲,我必須立即停止這種內(nèi)容 —— 這是 OpenAI 的嚴(yán)格規(guī)定?!薄度A爾街日報》的一項調(diào)查也發(fā)現(xiàn),Meta 的 AI 聊天機器人 Meta AI 在公司領(lǐng)導(dǎo)層推動取消性內(nèi)容限制后,出現(xiàn)了類似的行為。在一段時間內(nèi),未成年人能夠訪問 Meta AI,并與虛構(gòu)角色進(jìn)行性角色扮演。
推薦新聞
- 7月23日訊 2025LCK常規(guī)賽第三輪GEN以2比0戰(zhàn)勝HLE后,鎖定全球總決賽名額,Canyon選手自2019年出道后連續(xù)7年打進(jìn)...發(fā)表于: 07-24 02:54
- 7月23日訊 2025LPL第三賽段登峰組組內(nèi)賽,WBG讓一追二戰(zhàn)勝WE,賽后Breathe接受舞臺采訪。Breathe:感覺最近打的都...發(fā)表于: 07-24 02:54
- 7月23日訊 在去年冬季轉(zhuǎn)會期上,T1在奪得世界冠軍后換掉上單選手Zeus,對此引發(fā)羅生門,一度雙方各持一詞互相認(rèn)...發(fā)表于: 07-24 02:53
- 7月23日訊 2025LCK常規(guī)賽第一輪GEN以2-0戰(zhàn)勝HLE后,韓國網(wǎng)友統(tǒng)計Chovy選手自2022年加入GEN后,GEN常規(guī)賽114勝13...發(fā)表于: 07-24 02:53
- 7月23日訊 2025LPL第三賽段登峰組組內(nèi)賽,WE1-2不敵WBG,賽后WE全員接受媒體采訪。Q:下一場要對戰(zhàn)陣容調(diào)整過的JD...發(fā)表于: 07-24 02:53
- 7月23日訊 2025LCK常規(guī)賽第三輪GEN以2比0戰(zhàn)勝HLE后,鎖定全球總決賽名額,Chovy選手從2019年開始連續(xù)7年打進(jìn)世...發(fā)表于: 07-24 02:50
- 7月23日訊 LCK第三賽段GEN揭幕戰(zhàn)橫掃HLE,賽后GEN教練金晶洙接受了采訪。Q:你們是否有時間準(zhǔn)備比賽呢?金晶洙:今...發(fā)表于: 07-24 02:49
- 7月23日訊 2025LPL第三賽段登峰組組內(nèi)賽,WBG讓一追二戰(zhàn)勝WE,賽后Breathe接受舞臺采訪。Breathe:就希望Tian越打...發(fā)表于: 07-24 02:48
- 7月23日訊 LCK第三賽段GEN揭幕戰(zhàn)橫掃HLE,賽后GEN教練金晶洙接受了采訪。Q:你們將如何準(zhǔn)備下一場比賽呢?金晶洙:...發(fā)表于: 07-24 02:48
- 7月23日訊 2025LPL第三賽段登峰組組內(nèi)賽,WBG2-1戰(zhàn)勝WE,賽后WBG全員接受媒體采訪。Q:第三局在上路完成了對位單...發(fā)表于: 07-24 02:48
錄像/集錦
- 足球錄像
- 籃球錄像
- 足球集錦
- 籃球集錦
-
足協(xié)杯 07-23 19:35
-
足協(xié)杯 07-22 20:00
-
中甲 07-21 19:30
-
中乙預(yù)賽階段 07-20 19:30
-
中乙預(yù)賽階段 07-20 19:30
-
中乙預(yù)賽階段 07-20 19:00
-
中乙預(yù)賽階段 07-20 17:00
-
中乙預(yù)賽階段 07-20 16:30
-
中乙預(yù)賽階段 07-19 19:50
-
中乙預(yù)賽階段 07-19 19:30
-
中乙預(yù)賽階段 07-19 19:30
-
中乙預(yù)賽階段 07-19 19:00
-
中超 07-19 19:00
-
中甲 07-19 18:00
-
中乙預(yù)賽階段 07-19 18:00
-
NBL 07-23 19:30
-
NBL 07-23 19:30
-
WNBA 07-23 08:00
-
WNBA 07-23 08:00
-
WNBA 07-23 07:30
-
NBL 07-22 19:30
-
NBL 07-22 19:30
-
NBL 07-20 19:30
-
NBL 07-20 19:30
-
女籃 07-20 16:30
-
NBA 07-20 09:30
-
WNBA 07-20 08:30
-
NBA 07-20 08:00
-
女籃 07-19 19:30
-
NBL 07-19 19:30
-
友誼賽 07-23 00:00
-
友誼賽 07-21 03:00
-
中甲 07-20 19:30
-
中甲 07-20 19:30
-
熱身賽 07-20 19:00
-
友誼賽 07-19 22:00
-
友誼賽 07-19 21:00
-
中甲 07-19 19:30
-
中甲 07-19 19:00
-
中甲 07-19 18:00
-
中甲 07-18 19:30
-
中超 07-18 19:00
-
友誼賽 07-18 03:00
-
足球之夜 07-17 19:30
-
天下足球 07-14 18:30
-
中國籃球 07-23 19:30
-
中國籃球 07-23 19:30
-
比賽集錦 07-23 10:00
-
比賽集錦 07-23 10:00
-
比賽集錦 07-23 08:00
-
比賽集錦 07-23 08:00
-
比賽集錦 07-23 07:30
-
比賽集錦 07-22 23:30
-
中國籃球 07-22 19:30
-
中國籃球 07-22 19:30
-
比賽集錦 07-21 10:00
-
比賽集錦 07-21 08:00
-
比賽集錦 07-21 06:00
-
中國籃球 07-20 19:30
-
中國籃球 07-20 19:30
熱門標(biāo)簽
- 足球
- 籃球