תורת המידע

שיתוף

תורת המידע (באנגלית: Information theory) היא ענף של מתמטיקה שימושית ושל הנדסה שעוסקת בכימות של מידע. באופן היסטורי, פותחה תורת המידע כדי למצוא את הגבולות היסודיים בנושאים של דחיסת מידע ושל תקשורת נתונים אמינה. מאז הולדתו של ענף זה הוא התפצל ויש לו יישומים בהסקה סטטיסטית, רשתות שאינן רשתות תקשורת, ביולוגיה (נוירוביולוגיה), תאוריית המידע הקוונטית, אנליזה של נתונים, ותחומים אחרים, אם כי התחום משמש באופן נרחב במחקר של תקשורת נתונים.

מידה מרכזית בתורת המידע הוא מושג בשם אנטרופיית מידע, שמבוטא בדרך כלל באמצעות מספר היבטים הנדרשים לשם אחסון או לשם תקשורת. באופן אינטואיטיבי, אנטרופיית מידע מכמתת את כמות אי-הוודאות המעורבת במשתנה מקרי. לדוגמה, הטלה של מטבע הוגן היא בעלת אנטרופיית מידע נמוכה יותר מאשר הטלה של קוביית משחק בעלת 6 פאות.

האדם שנחשב כאבי תורת המידע הוא קלוד אלווד שאנון, שכתב בשנת 1948 מאמר בשם "תאוריה מתמטית של מידע" ובו תאר את המושג של אנטרופיית מידע.

יישומים של נושאים מרכזיים בתורת המידע כוללים דחיסת מידע ללא איבוד נתונים (lossless data compression לדוגמה משמש בקבצי ZIP) דחיסת מידע עם איבוד נתונים (lossy data compression לדוגמה משמש בפורמט MP3), וקידוד ערוצי תקשורת. השדה נמצא בהצטלבות של מתמטיקה, סטטיסטיקה, מדעי המחשב, פיזיקה, נוירוביולוגיה והנדסה אלקטרונית. ההשלכות שלו היו חיוניות להצלחה של מסע החללית וויאג'ר לחלל העמוק, ההמצאה של מכשיר ה-CD, היישימות של טלפונים ניידים, פיתוח האינטרנט, מחקרים בבלשנות ובתפיסה האנושית, הבנה של חורים שחורים ונושאים נוספים.

תתי תחומים חשובים בתורת המידע הם קידוד מידע, קידוד ערוצים, תאוריית סיבוכיות אלגוריתמים, תאוריית מידע אלגוריתמים, ומדידות של מידע.

חשיבות אפשרית לכלכלה אקולוגית

תורת המידע עשויה להיות נדבך חשוב בהבנה של תהליכים כלכליים-אקולוגיים, ובכלכלה אקולוגית. זאת היות והיא עוסקת בקשר שבין אנרגיה ואנטרופיה לבין מידע, אחסון נתונים ותקשורת - שלכולם תפקידים חשובים הן בכלכלה וסוציולוגיה והן בביולוגיה באקולוגיה.

תהליכים כלכליים ותהליכים אקולוגיים מערבים מידע (שמאוחסן לדוגמה ב-DNA או בקבצי מחשב) כדי לאפשר רתימה של אנרגיה חופשית (אקסרגיה) לשם ביצוע עבודה ושינוי של חומרים. איסוף, מיון, הערכה ושימור של מידע ושל ידע מצריך מבנים מסודרים (כמו ספרים, ספריות, מחשבים, מערכות ניתוח ממוחשבות, מערכות ניהול מידע) והתחזוקה שלהם דורגת אנרגיה. כמו כן הן גורמים טבעיים (כמו מות של אנשים, אסונות טבע, מגבלות איסוף של אותות, מגבלות ביכולת ניתוח) והן נסיונות הסוואה והונאה גורמים ל"רעש" שגורם לאיסוף ושימור של מידע לא רלוונטי או של מידע מוטעה.

מידע נוכח במקומות שונים בביולוגיה - יצורים חיים משתמשים באמצעי איסוף שונים (חושים) כדי לזהות מקורות מזון ומים, לזהות מצבים של מזג אוויר לא טוב (סופות, בצורת) ולנדוד למקומות נכונים, לבנות מחסות ועוד. בקרב יצורים בעלי רביה מינית מושקע מאמץ רב לזהות בן זוג מתאים (במיוחד בקרב נקבות, ראו הסבר בספר "הגן האנוכי") או כדי לשכנע בת (או בן) כי ראוי להזדווג איתך. טורפים ונטרפים משתמשים בטכניקות של הסוואה והונאה כדי להתחמק מנטרפים וטורפים בהתאמה. מאמצי הונאה יכולים להיות קשורים גם בציפורים המתחזות לפצועות כדי למשוך טורפים הרחק מהקן או קוקיות השותלות ביצים בקיני ציפורים אחרות. בתחום המיקרו-ביולוגיה יש קרבות מידע יומיומיים ומתחוכמים בין טפילים, חיידקים, וירוסים ופטריות מזיקות לבין יצורים רב תאיים (בעלי חים, צמחים פטריות) בנסיון של הטפילים להתשמש במשאבים של היצור הרב תאי כדי לשרוד ולהתרבות. כך גם במאבק בין וירוסים לבין חיידקים וחד תאיים אחרים. מערכות לזיהוי האויב ולאיסוף מידע עליו מהוות את המערכת החיסונית - ששימורה על פני דורות, הפעלתה במשך החיים והמשך הלימוד שלה צורכת מאמץ רב מצב הגוף.

גם בחקר התרבות מדעי המדינה וכלכלה יש למידע וידע ותקשרות משמעויות גדולות. אחת ההגדרות של כלכלה נוגעת לקבלת החלטות בתנאי אי וודאות. איסוף ועיבוד מידע מהווה הן ענף כלכלי בפני עצמו (בתחומים כמו פיננסיים, בריאות, כריית מחבצים, תחבורה ועוד) והן כחלק מהמבנים הכלכליים ששולטים בכלכלה כמו בורסות, בנקים, בנקים מרכזיים, חברות ביטוח ועוד.

לכאורה הטכנולוגיה והמדע הם משאבים אינסופיים שיכול להצעיד את האנושות עוד ועוד קדימה, אלא שתורת המידע מציבה לדבר זה גבול (שכרגע נראה רחוק מאוד), שכן בסופו של דבר שמירה של עוד מידע כרוכה בהוצאה של עוד אנרגיה, שכמותה היא סופית.