הסוד לפתיחת עולם ה-AI: הפסאודו-הופכי הלא-ליניארי

כאשר תמונות רבות ממופות לאותה תווית, אין פתרון ייחודי לבחירה מביניהן. העבודה שואפת להטיל את מושג הפסאודו-הופכי מאלגברה ליניארית על רשתות נוירונים ואופרטורים לא-ליניאריים. המטרה היא לבחור את הפתרון

הפסאודו-הופכי של מור-פנרוז הוא הדרך לבחור את הפתרון

המטרה היא לבנות רשת נוירונים שתקיים את ארבע זהויות פנרוז המגדירות את הפסאודו-הופכי. את שני התנאים הרפלקסיביים ניתן להשיג באמצעות ארכיטקטורת הרשת. את שני התנאים הסימטריים, שהם מאתגרים יותר, פותרים על ידי בחירת הפתרון בעל הנורמה המינימלית, במטריקה שונה שנמצאה טבעית יותר.

הרשת מורכבת מפונקציה קדימה G, המקבלת קלט X ומפרקת אותו ל-X0 ו-X1. X1 עובר דרך רשתות קטנות S ו-T ליצירת פלט Y, בעל ממד גדול יותר מ-X0. הפונקציה ההופכית מקבלת את Y ומחזירה שחזור של X0 באמצעות S ו-T הפוכים, כאשר הרשת מאומנת לבחור את הפתרון הייחודי בעל הנורמה המינימלית.

הטלה אחורית היא יישום קלאסי של הפסאודו-הופכי בראייה ממוחשבת לפתרון בעיות הפוכות, כמו שחזור תמונה ברזולוציה גבוהה מתמונה ברזולוציה נמוכה. בתהליך זה, מודדים את השגיאה במרחב הפלט ומקרינים אותה למרחב הקלט באמצעות הפסאודו-הופכי. זה מאפשר להוסיף תיקון לניחוש הראשוני כדי להגיע לפתרון בעל נורמה מינימלית, שהוא הנתיב הקצר ביותר.

כאשר יש רשת פסאודו-הופכית לא-ליניארית, ניתן להשתמש בה לבניית פונקציות לא-ליניאריות רבות כדגרדציות. בשילוב עם מודל דיפוזיה, מבצעים צעד של הטלה אחורית כדי לקבל תוצאה עקבית לפלט הרצוי. לאחר מכן חוזרים על תהליך של הוספת רעש, הסרת רעש וצעדי הטלה אחורית נוספים עד לקבלת תוצאה איכותית.

השיטה מאפשרת לפתור בעיות כמו שחזור תמונה מקלסיפיקציה, לדוגמה, יצירת תמונת פנים מתוך וקטור של 40 תכונות, כאשר הזהות המקורית אינה נשמרת אך התכונות מתקיימות. ניתן גם להשתמש בה לעריכת תמונות על ידי אכיפת תכונות ספציפיות, ולשחזור תמונות מתוך זיהוי אובייקטים ומיקומם.