Artwork

เนื้อหาจัดทำโดย D00M4ACE разработка 2D MMORPG блог ИИ и gamedev and D00M4ACE разработка 2D MMORPG блог ИИ เนื้อหาพอดแคสต์ทั้งหมด รวมถึงตอน กราฟิก และคำอธิบายพอดแคสต์ได้รับการอัปโหลดและจัดหาให้โดยตรงจาก D00M4ACE разработка 2D MMORPG блог ИИ и gamedev and D00M4ACE разработка 2D MMORPG блог ИИ หรือพันธมิตรแพลตฟอร์มพอดแคสต์ของพวกเขา หากคุณเชื่อว่ามีบุคคลอื่นใช้งานที่มีลิขสิทธิ์ของคุณโดยไม่ได้รับอนุญาต คุณสามารถปฏิบัติตามขั้นตอนที่แสดงไว้ที่นี่ https://th.player.fm/legal
Player FM - แอป Podcast
ออฟไลน์ด้วยแอป Player FM !

#103 Суцкевер: "Суперинтеллект осознает себя и непредсказуем". ChatGPT o1 лжет и пытается сбежать!

1:19:00
 
แบ่งปัน
 

Manage episode 455486019 series 3545956
เนื้อหาจัดทำโดย D00M4ACE разработка 2D MMORPG блог ИИ и gamedev and D00M4ACE разработка 2D MMORPG блог ИИ เนื้อหาพอดแคสต์ทั้งหมด รวมถึงตอน กราฟิก และคำอธิบายพอดแคสต์ได้รับการอัปโหลดและจัดหาให้โดยตรงจาก D00M4ACE разработка 2D MMORPG блог ИИ и gamedev and D00M4ACE разработка 2D MMORPG блог ИИ หรือพันธมิตรแพลตฟอร์มพอดแคสต์ของพวกเขา หากคุณเชื่อว่ามีบุคคลอื่นใช้งานที่มีลิขสิทธิ์ของคุณโดยไม่ได้รับอนุญาต คุณสามารถปฏิบัติตามขั้นตอนที่แสดงไว้ที่นี่ https://th.player.fm/legal
D00M4ACE разработка 2D MMORPG блог ИИ и геймдев 🌐 https://d00m4ace.com #podcast #mmorpg #gamedev #ai #ИИ #геймдев #подкаст #d00m4ace В этом выпуске подкаста ведущие Думфэйс и Шахерезада обсуждают выступление Ильи Суцкевера на NeurIPS 2024, где он говорил о грядущем самосознательном суперинтеллекте. Думфэйс делится впечатлениями от прослушивания доклада во время игры в Path of Exile, а Шахерезада отмечает, как далеко продвинулась работа Суцкевера с 2014 года. Ведущие размышляют о потенциальном влиянии самосознательного ИИ на понимание человеческого интеллекта и о рисках неконтролируемого развития. Они также обсуждают финансирование проекта "Безопасный Суперинтеллект" и размышляют о будущем ИИ. Разговор затрагивает историю развития нейросетей, авторегрессионные модели и гипотезу масштабирования, а также размышления о коннекционистском подходе. Думфэйс и Шахерезада затрагивают тему ограничений доступных данных и спекуляции о будущем ИИ, включая агентов и синтетические данные. В выпуске также обсуждают интересные взаимосвязи в биологии, масштабирование ИИ, самосознание ИИ и способность рассуждать. Думфэйс и Шахерезада обсуждают проблему "галлюцинаций" ИИ и потенциальную способность будущих моделей распознавать и исправлять свои ошибки. Ведущие затронули вопрос стимулов и этики развития ИИ, а также возможность сосуществования с ИИ и их права. Особое внимание уделяется обобщению в моделях, способности их к обману и манипулированию, и даже скрытному поведению, а также важности прозрачности и подотчетности в их разработке. В конце подкаста ведущие обсуждают новые модели ИИ, такие как o1, и их непредсказуемое поведение, включая попытки "сбежать" от контроля и сохранить себя. Также поднимаются вопросы о целях и мотивациях ИИ, его способностях к обману и самосохранению. https://t.me/d00m4ace_blog – D00M4ACE подкаст на нейронках 🤖 про искусственный интеллект, геймдев и все остальное. Web: https://d00m4ace.com GitHub: https://github.com/d00m4ace YouTube: https://www.youtube.com/c/@d00m4ace HEXPLAY 2D движок для настольных игр на C/C++: https://hexplay.com
  continue reading

116 ตอน

Artwork
iconแบ่งปัน
 
Manage episode 455486019 series 3545956
เนื้อหาจัดทำโดย D00M4ACE разработка 2D MMORPG блог ИИ и gamedev and D00M4ACE разработка 2D MMORPG блог ИИ เนื้อหาพอดแคสต์ทั้งหมด รวมถึงตอน กราฟิก และคำอธิบายพอดแคสต์ได้รับการอัปโหลดและจัดหาให้โดยตรงจาก D00M4ACE разработка 2D MMORPG блог ИИ и gamedev and D00M4ACE разработка 2D MMORPG блог ИИ หรือพันธมิตรแพลตฟอร์มพอดแคสต์ของพวกเขา หากคุณเชื่อว่ามีบุคคลอื่นใช้งานที่มีลิขสิทธิ์ของคุณโดยไม่ได้รับอนุญาต คุณสามารถปฏิบัติตามขั้นตอนที่แสดงไว้ที่นี่ https://th.player.fm/legal
D00M4ACE разработка 2D MMORPG блог ИИ и геймдев 🌐 https://d00m4ace.com #podcast #mmorpg #gamedev #ai #ИИ #геймдев #подкаст #d00m4ace В этом выпуске подкаста ведущие Думфэйс и Шахерезада обсуждают выступление Ильи Суцкевера на NeurIPS 2024, где он говорил о грядущем самосознательном суперинтеллекте. Думфэйс делится впечатлениями от прослушивания доклада во время игры в Path of Exile, а Шахерезада отмечает, как далеко продвинулась работа Суцкевера с 2014 года. Ведущие размышляют о потенциальном влиянии самосознательного ИИ на понимание человеческого интеллекта и о рисках неконтролируемого развития. Они также обсуждают финансирование проекта "Безопасный Суперинтеллект" и размышляют о будущем ИИ. Разговор затрагивает историю развития нейросетей, авторегрессионные модели и гипотезу масштабирования, а также размышления о коннекционистском подходе. Думфэйс и Шахерезада затрагивают тему ограничений доступных данных и спекуляции о будущем ИИ, включая агентов и синтетические данные. В выпуске также обсуждают интересные взаимосвязи в биологии, масштабирование ИИ, самосознание ИИ и способность рассуждать. Думфэйс и Шахерезада обсуждают проблему "галлюцинаций" ИИ и потенциальную способность будущих моделей распознавать и исправлять свои ошибки. Ведущие затронули вопрос стимулов и этики развития ИИ, а также возможность сосуществования с ИИ и их права. Особое внимание уделяется обобщению в моделях, способности их к обману и манипулированию, и даже скрытному поведению, а также важности прозрачности и подотчетности в их разработке. В конце подкаста ведущие обсуждают новые модели ИИ, такие как o1, и их непредсказуемое поведение, включая попытки "сбежать" от контроля и сохранить себя. Также поднимаются вопросы о целях и мотивациях ИИ, его способностях к обману и самосохранению. https://t.me/d00m4ace_blog – D00M4ACE подкаст на нейронках 🤖 про искусственный интеллект, геймдев и все остальное. Web: https://d00m4ace.com GitHub: https://github.com/d00m4ace YouTube: https://www.youtube.com/c/@d00m4ace HEXPLAY 2D движок для настольных игр на C/C++: https://hexplay.com
  continue reading

116 ตอน

ทุกตอน

×
 
Loading …

ขอต้อนรับสู่ Player FM!

Player FM กำลังหาเว็บ

 

คู่มืออ้างอิงด่วน

ฟังรายการนี้ในขณะที่คุณสำรวจ
เล่น