去年 #OpenAI 内讧，前些天Ilya离职，传闻都是因为在 #安全 问题上产生了不可调和的分歧。
这个问题上，坚持安全至上的Ilya显然得到了更多同情，失败者身份和科学家光环都起到了很明显的作用。相对来说，更重视产品发布的Sam主要是个商人（本科肄业），无商不奸嘛。
但仔细想一下他们的思路，问题就没有这么简单。
理论上说，一个 #绝对安全 的AI有存在的可能吗？
大概是没有。连人都可能会被骗当上恐怖分子，AI也很难完全避免。
Ilya可能非常聪明，可能考虑了很多情况，但智者千虑必有一失。一个他认为足够强大、足够安全的AI突然进入社会，反而更可能造成无法预料的危险。更不用说你控制不了对手使用不安全的AI。
#渐进 可能是一个更好的方式。一个不那么安全，但也不那么强大的AI进入社会，让人们有足够多的时间来应对，知道如何与AI共处。双方协同演化，更可能得到一个更好的结果。
这大概也是 #设计论 和 #演化论 的分歧。
ChatGPT依賴於他們的肯尼亞工人運作。AI公司希望你相信AI會像魔法一樣代替所有煩人的人類僱員，實際上AI的運作依賴於在其它國家的——那些工資更低的國家，遠在非洲與南亞——低薪勞動力。
例如肯尼亞這樣的語言為英語的低薪國家。AI公司同樣把工作外包，工人們在苛刻的環境下做電腦流水線工作，工作量很大，不得不在幾秒內完成貼標籤任務，包括審核，一些工人被迫每天觀看數小時的性暴力和謀殺等畫面。OpenAI自2022年就在用肯尼亞工人。
這和其它互聯網公司的跨國外包審核用工情況很像。你也能想起那些為發達國家學生寫學術論文的被困在自己貧困國家裡的僱員們，同樣的事情又一次發生了。
60 Minutes上週對此作了報導：AI訓練對時薪2美元（14.5人民幣）一小時的肯尼亞工人影響巨大
https://www.youtube.com/watch?v=qZS50KXjAX0
衛報去年的報導：肯尼亞審核者譴責AI模型訓練的代價：“它完全摧毀了我”
https://www.theguardian.com/technology/2023/aug/02/ai-chatbot-training-human-toll-content-moderator-meta-openai
https://pivot-to-ai.com/2024/11/30/meet-the-underpaid-workers-in-nairobi-kenya-who-power-openai/
#AI #人工智能 #openai #chatgpt #勞動 #勞工
#ElonMusk’s business #conflicts draw scrutiny amid WH role [apparently no one noticed till now 🙄]
Musk had sharp words for a the $500B partnership touted by the #Trump admin to hasten development of #ArtificialIntelligence #infrastructure. “They don’t actually have the money,” he said of #OpenAI & #SoftBank….
Left unsaid by the #technocrat, he has skin in the game: #xAI, is directly challenging OpenAI for the lead in the race to transform society w/the #technology.
🧵
https://www.washingtonpost.com/business/2025/01/24/elon-musk-conflicts-doge-trump-openai/
OpenAI 称有证据 DeepSeek 使用「模型蒸馏」技术利用其模型进行训练。
- The Verge 的文章还提到，考虑到是 OpenAI 开盗用互联网数据训练其模型之先河，这一指控颇具有讽刺性。
- 404 Media 的讽刺则更为直接："Hahahahahahahahahahahahahahahaha hahahhahahahahahahahahahahaha"。
theverge.com/~
404media.co/~
seealso: HackerNews:42865527
#LLM #OpenAI #DeepSeek #today
Telegram 原文
"Wait, isn't this the plot to the "Terminator" movies?"
https://futurism.com/openai-signs-deal-us-government-nuclear-weapon-security
#news #technology #TechNews #AI #OpenAI #military #terminator
卧薪尝胆
