הפרק סיקרנו מאמר שאדם כתב, שעוסק בדיון העכשווי והקריטי סביב פיתוחOpen Source vs Close Source AI - דיון על התצורה שעלינו לפתח את הטכנולוגיה הזאת - האם היא צריכה להיות מפותחת בצורה סגורה ו"מבוקרת" על ידי גורמים וחברות בודדות, או האם הפיתוח צריך להיות יותר פתוח ונגיש לכולם, מה יהיה יותר בטוח - והאם יש דוגמאות מהעבר שעליהן ניתן לבנות את הטענה הזאת?
המאמר נכתב תוך התייחסות לספר "The Coming Wave" של מוסטפא סולימאן, מי שהקים את החברה האגדית DeepMind שנמכרה לגוגל, ומי שהיום מריץ את אחת החברות AI המעניינות.
דיברנו על האינטרסים השונים של החברות הגדולות לסגור או להקשות על תחרות מצד סטארטפים יותר קטנים, מה זה המושג "שבי רגולטורי" ואיך חברות גדולות משתמשות בו, אבל מניפות את הדגל "זה בשביל הביטחון של האנושות" - ותנועת הנגד שנוצרה שנקראת e/acc , הדברים הטובים בה, אך גם עם ביקרות כלפיה.
 
קישורים:
<ol>
 <li>המאמר של אדם: <a href="https://essays.adamcohenhillel.com/p/countering-the-coming-wave-by-mustafa">https://essays.adamcohenhillel.com/p/countering-the-coming-wave-by-mustafa</a>
</li>
 <li>מוסטפא סולימאן: <a href="https://en.wikipedia.org/wiki/Mustafa_Suleyman">https://en.wikipedia.org/wiki/Mustafa_Suleyman</a>
</li>
 <li>קישור לספר "The Coming Wave":  <a href="https://www.the-coming-wave.com/">https://www.the-coming-wave.com/</a>
</li>
 <li>סרטון שמסביר בצורה מדהימה את הבעייתיות עם שבי רגולטורי:<a href="https://www.youtube.com/watch?v=F9cO3-MLHOM&ab_channel=All-InPodcast">https://www.youtube.com/watch?v=F9cO3-MLHOM&ab_channel=All-InPodcast</a>
</li>
 <li>תנועת הe/acc: <a href="https://effectiveaccelerationism.substack.com/p/repost-effective-accelerationism">https://effectiveaccelerationism.substack.com/p/repost-effective-accelerationism</a>
</li>
 <li>דיון בטוויטר בין מארק טדמארק (מחבר הספר Life 3.0) ליאן לקון (head of AI של Meta\Facebook):<a href="https://twitter.com/ylecun/status/1718670073391378694">https://twitter.com/ylecun/status/1718670073391378694</a> 
</li>
 <li>הדוקמינטרי על DeepMind ו-AlphaGo:<a href="https://www.youtube.com/watch?v=WXuK6gekU1Y&ab_channel=GoogleDeepMind">https://www.youtube.com/watch?v=WXuK6gekU1Y&ab_channel=GoogleDeepMind</a> 
</li>
</ol>

פרק 6 - אדם וים: הדיון הקריטי סביב פיתוח בינה מלאכותית Open vs Close Source

בפרק אירחנו את מייק ארליכסון, דוקטור למתמטיקה מהטכניון, מומחה בינה מלאכותית ו-Machine Learning, וכיום עובד כ AI Tech Lead בחברת Salt Security.
מייק הוא אחד האנשים היותר פעילים בקהילת הבינה מלאכותית בארץ, Machine Learning Israel, שם, בפייסבוק ובטוויטר - הוא עובד על הנגשת התכנים האקדמיים לקהל רחב יותר על ידי סיכום מאמרים בקצרה ובעברית (הפינה נקראת #shorthebrewpapereviews). בנוסף, מייק גם כתב ספר deep learning בעברית, שזמין בחינם לכולם באינטרנט.
 
בפרק צללנו ישר אל מה היא ארכיטקטורת הטרנספורמים (Transformers), הארכיטקטורה שהיוותה את השינויי המשמעותי ביותר בעולם הAI בשנים האחרונות. דיברנו על מה עשה את הארכיטקטורה כל כך מיוחדת ושונה מהארכטיקטורות שקדמו לה, תהליך האימון שOpenAI עשו עם RLHF  - שהתוצר הסופי הוא לא פחות מ-ChatGPT שכולנו מכירים.
 
משם לקחנו את השיחה למקום קצת אחר, ופחות טכנולוגי: האתגרים בעולם בו אין יותר מידע "טהור," כלומר מידע שלא מותנה באידיאולוגיה או מניעים ספציפיים, אלא עובדות כעובודות. דיברנו על איך עולם הבינה מלאכותית מעצים את אותם אתגרים, והאם יש איך להילחם בזה - מהצד הטגנולוגי, וכן מהצד התרבותי. הדרך בה אנחנו צורכים תוכן תיהיה חייבת להשתנות כדי להתאים את עצמנו יותר לאתגרים העכשוויים.
נענו בין אופטימיות לגבי העתיד ופסימיות מכורח המציאות הנוכחית והמסלול עליו נראה שאנחנו נמצאים עם  הבעיותות של טיקטוק ועוד.
קישורים מהפרק:
<ol>
 <li>מייק בטוויטר: <a href="https://twitter.com/MikeE_3_14">https://twitter.com/MikeE_3_14</a>
</li>
 <li>הספר Deep Learning בעברית: <a href="https://github.com/AvrahamRaviv/Deep-Learning-in-Hebrew">https://github.com/AvrahamRaviv/Deep-Learning-in-Hebrew</a>
</li>
 <li>קהילת AI ישראל: <a href="https://machinelearning.co.il/">https://machinelearning.co.il/</a>
</li>
 <li>מאמר בעברית על הארכיטקטוריות שהיו לפני הטרנספורמים, ודיברנו עליהם בפרק: <a href="https://machinelearning.co.il/14698/transformers-section-1/">https://machinelearning.co.il/14698/transformers-section-1/</a>
</li>
 <li>ערך ויקיפדיה על ארכיטקטורת הטרנספורמרים:<a href="https://he.wikipedia.org/wiki/%D7%98%D7%A8%D7%A0%D7%A1%D7%A4%D7%95%D7%A8%D7%9E%D7%A8_(%D7%9C%D7%9E%D7%99%D7%93%D7%AA_%D7%9E%D7%9B%D7%95%D7%A0%D7%94)">https://he.wikipedia.org/wiki/%D7%98%D7%A8%D7%A0%D7%A1%D7%A4%D7%95%D7%A8%D7%9E%D7%A8_(%D7%9C%D7%9E%D7%99%D7%93%D7%AA_%D7%9E%D7%9B%D7%95%D7%A0%D7%94)</a>
</li>
 <li>טרנסםורמרים ומגנון הקשה העצמי ("self-attention") על פי הספר למידה של מייק: <a href="https://github.com/AvrahamRaviv/Deep-Learning-in-Hebrew/blob/main/08%20-%20Attention.pdf">https://github.com/AvrahamRaviv/Deep-Learning-in-Hebrew/blob/main/08%20-%20Attention.pdf</a>
</li>
</ol>

פרק 5 - מייק ארליכסון: ארכיטקטורת הטרנספורמרים, מודלי שפה, והאתגרים של עולם ללא מידע טהור

הפרק אירחנו את ד"ר דויד קובץ׳ - חבר סגל בכיר בחוג לפילוסופיה באוניברסטית תל אביב - המתמחה בעיקר במטפיזיקה אנליטית (אל תדאגו, דוד מסביר מה זה בפרק). לדויד יש עניין רב גם תחומים נוספים בפילוסופיה, כמו הפילוסופיה של הנפש, אפיסטמולוגיה, ועוד.
את הפרק פתחנו בלהסביר מה זה בכלל פילוסופיה מטאפיזית, והגישה האנליטית, ומשם התמקדנו בתחום ההתמחות של דוד זהות אישית(מה אנחנו, בעצם, ומתוקף מה אנחנו מתקיימים לאורך זמן?), איך זה מתקשר לעולם הנוכחי והעתידי עם בינה מלאכותית, העתקת תודעה לענן - ו 
קישורים:
<ol>
 <li>ספר כניסה לעולם הפילוסופיה - עולמה של סופי - <a href="https://he.wikipedia.org/wiki/%D7%A2%D7%95%D7%9C%D7%9E%D7%94_%D7%A9%D7%9C_%D7%A1%D7%95%D7%A4%D7%99">https://he.wikipedia.org/wiki/%D7%A2%D7%95%D7%9C%D7%9E%D7%94_%D7%A9%D7%9C_%D7%A1%D7%95%D7%A4%D7%99</a>
</li>
 <li>הדיאלוגים של אפלטון - <a href="https://he.wikipedia.org/wiki/%D7%A4%D7%99%D7%99%D7%93%D7%95%D7%9F_(%D7%93%D7%99%D7%90%D7%9C%D7%95%D7%92_%D7%90%D7%A4%D7%9C%D7%98%D7%95%D7%A0%D7%99)">https://he.wikipedia.org/wiki/%D7%A4%D7%99%D7%99%D7%93%D7%95%D7%9F_(%D7%93%D7%99%D7%90%D7%9C%D7%95%D7%92_%D7%90%D7%A4%D7%9C%D7%98%D7%95%D7%A0%D7%99)</a>
</li>
 <li>פילוסופיה אנליטית - <a href="https://he.wikipedia.org/wiki/%D7%A4%D7%99%D7%9C%D7%95%D7%A1%D7%95%D7%A4%D7%99%D7%94_%D7%90%D7%A0%D7%9C%D7%99%D7%98%D7%99%D7%AA">https://he.wikipedia.org/wiki/%D7%A4%D7%99%D7%9C%D7%95%D7%A1%D7%95%D7%A4%D7%99%D7%94_%D7%90%D7%A0%D7%9C%D7%99%D7%98%D7%99%D7%AA</a>
</li>
 <li>הגישה הלוקיאנית (פסיכולוגית) לזהות האני - <a href="https://he.wikipedia.org/wiki/%D7%92%27%D7%95%D7%9F_%D7%9C%D7%95%D7%A7">https://he.wikipedia.org/wiki/%D7%92%27%D7%95%D7%9F_%D7%9C%D7%95%D7%A7</a>
</li>
 <li> 
</li>
 <li>הגישה הקונבנציליסיטת- 
</li>
 <li>הגישה הביולוגית - 
</li>
 <li>החוג הווינאי - <a href="https://he.wikipedia.org/wiki/%D7%94%D7%97%D7%95%D7%92_%D7%94%D7%95%D7%95%D7%99%D7%A0%D7%90%D7%99">https://he.wikipedia.org/wiki/%D7%94%D7%97%D7%95%D7%92_%D7%94%D7%95%D7%95%D7%99%D7%A0%D7%90%D7%99</a> 
</li>
</ol>
<a href="https://en.wikipedia.org/wiki/Philosophy_of_mind">https://en.wikipedia.org/wiki/Philosophy_of_mind</a>

פרק 4 - דויד קובץ׳: מטפיזיקה אנליטית, זהות אישית, בינה מלאכותית והעתקת התודעה לענן

בפרק שמחנו לארח את ד"ר אלכסנדר יעקובסון, היסטוריון ופרופסור באוניברסיטה העברית שמתמחה בהיסטוריה הרומית. בפרק דיברנו על מה קרה מאחורי הקלעים של ההתרחבות הרומית, המעבר לרפובליקה וההשפעות של אותה תקופה על החיים המודרנים - הדיונים הפוליטיים, החברתיים והחוקתיים שהרומאים דנו, שפוגשים אותנו גם היום.פרק גם יצא לנו לדבר על איך אנחנו (באופן יחסי) חיים בתקופה חסרת מלחמות, מה זה אומר להיות היסטוריון, ולמה חשוב ללמוד היסטוריה בצורה אובייקטיבית.

פרק 3 - אלכסנדר יעקובסון: הרפובליקה הרומית והשפעתה על החיים המודרנים

בפרק הזה אירחנו את צוף בר אור, סטודנט לתואר שני ב Data Science, פרמדיק לשעבר, וכותב (בשפה של בני אדם) על בינה מלאכותית בטוויטר. שוחחנו על ארבעת מעגלי ההתעסקות עם בינה בינה מלאכותית, כיצד ניתן להיכנס לעולם הזה בלי רקע ולמה אנחנו כחברה צריכים לדאוג שהכלים הקיימים לא פוגעים בגלגל התמריצים שמניע את כלכלת האינטרנט. מעבר להיותו כותב בטוויטר צוף מתעסק במחקר המשלב כימיה עם בינה מלאכותית, נושא שגם אליו הגענו לדבר, והיה לנו מרתק להיחשף אליו.
קישורים מהפרק: 
הטוויטר של צוף - <a href="https://twitter.com/tsoofbaror">https://twitter.com/tsoofbaror</a> 
איך ללמוד אלגברה ליניארית - <a href="https://www.youtube.com/watch?v=fNk_zzaMoSs&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab">https://www.youtube.com/watch?v=fNk_zzaMoSs</a>
Brilliant אפליקציית למידה  - <a href="https://brilliant.org/">https://brilliant.org/</a>
כלי הAI שדיברנו עליהם:  
<a href="https://www.midjourney.com/">https://www.midjourney.com/</a> 
<a href="https://openai.com/dall-e-2">https://openai.com/dall-e-2</a>
<a href="https://app.grammarly.com/">https://app.grammarly.com/</a>
<a href="https://chat.openai.com/">https://chat.openai.com/</a>
<a href="https://bard.google.com/">https://bard.google.com/</a>
אתר "האיש הזה לא קיים" -  <a href="https://this-person-does-not-exist.com/en">https://this-person-does-not-exist.com/en</a>
תוכנת יצירת וידיאו מטקסט - <a href="https://runwayml.com/">https://runwayml.com/</a>
השימוע של סאם אלטמן מנכ"ל openAI בסנאט האמריקאי - <a href="https://www.youtube.com/watch?v=fP5YdyjTfG0">https://www.youtube.com/watch?v=fP5YdyjTfG0</a>
ההכרזה של OpenAI על הגישה שלהם לבטיחות בבינה מלאכותית <a href="https://openai.com/blog/our-approach-to-ai-safety">https://openai.com/blog/our-approach-to-ai-safety</a>
שיטת ריצרד פיימן ללמידת דברים חדשים - <a href="https://freegrowth.co.il/feynman-technique/">https://freegrowth.co.il/feynman-technique/</a>
סרטון של שילוב המימים באמצעות הכלי החדש של פוטושופ: <a href="https://www.youtube.com/shorts/YWy9YybonDY">https://www.youtube.com/shorts/YWy9YybonDY</a>
 
 
וכמובן, קישור לטוויטר שלנו, מוזמנים לפנות אלינו בפרטי!
ים - <a href="https://twitter.com/YamCatzenelson">https://twitter.com/YamCatzenelson</a>
אדם -  <a href="https://twitter.com/adamcohenhillel">https://twitter.com/adamcohenhillel</a>

פרק 2 - צוף בר אור: בינה מלאכותית, כימיה, והאתגרים שבדרך

פרק הפתיחה, בו הצגנו את עצמנו ואת הסיבות מאחוריי יצירת הפודקאסט, מתעסק בעיקר סביב הקונספט החדש בעולמות הבינה מלאכותית (AI) שנקרא Autonomous Agents (ובקיצור AutoGPT, או BabyAGI). בפרק אנחנו משוחחים על ההשפעות העתידיות של התחום על שוק העבודה ככלל ומתכנתים בפרט , החיבור לעולם הגיימינג ואיך כל זה מתקשר לתיאוריית הסימולציה.
 
קישורים מהפרק:
1. המאמר של סטנפורד: <a href="https://arxiv.org/pdf/2304.03442.pdf">https://arxiv.org/pdf/2304.03442.pdf</a>
2. המאמר על הפרוייקט של אדם: <a href="https://adamcohenhillel.substack.com/p/experiments-with-autonomous-gpt-agents">https://adamcohenhillel.substack.com/p/experiments-with-autonomous-gpt-agents</a>
3. הסדרה "ווסטוורלד": <a href="https://www.imdb.com/title/tt0475784/">https://www.imdb.com/title/tt0475784</a>
4. אנדרו קרפטתי (ממייסדי OpenAI) בטוויטר: <a href="https://twitter.com/karpathy">https://twitter.com/karpathy</a>
 
וכמובן, קישור לטוויטר שלנו, מוזמנים לפנות אלינו בפרטי!
ים - <a href="https://twitter.com/YamCatzenelson">https://twitter.com/YamCatzenelson</a>
אדם -  <a href="https://twitter.com/adamcohenhillel">https://twitter.com/adamcohenhillel</a>

אודות

פרקים

פרק 6 - אדם וים: הדיון הקריטי סביב פיתוח בינה מלאכותית Open vs Close Source

פרק 5 - מייק ארליכסון: ארכיטקטורת הטרנספורמרים, מודלי שפה, והאתגרים של עולם ללא מידע טהור

פרק 4 - דויד קובץ׳: מטפיזיקה אנליטית, זהות אישית, בינה מלאכותית והעתקת התודעה לענן

פרק 3 - אלכסנדר יעקובסון: הרפובליקה הרומית והשפעתה על החיים המודרנים

פרק 2 - צוף בר אור: בינה מלאכותית, כימיה, והאתגרים שבדרך

פרק 1 - אדם וים: GPT Agents וההשפעה על שוק העבודה