נוספו 3,465 בתים
, 16:59, 19 בפברואר 2008
'''תורת המידע''' (Information theory) היא ענף של מתמטיקה שימושית ושל הנדסה שעוסקת בכימות של מידע. באופן היסטורי, פותחה תורת המידע כדי למצוא את הגבולות היסודיים בנושאים של דחיסת מידע ושל תקשורת נתונים אמינה. מאז הולדתו של ענף זה הוא התפצל ויש לו יישומים בהסקה סטטיסטית, רשתות שאינן רשתות תקשורת, ביולוגיה (ניורוביולוגיה), תאוריית המידע הקוונטית, אנליזה של נתונים, ותחומים אחרים, אם כי התחום משמש באופן נרחב במחקר של תקשורת נתונים.
מידה מרכזית בתורת המידע הוא מושג בשם '''[[אנטרופיית מידע]]''', שמבוטע בדרך כלל באמצעות מספר הביטים הנדרים לשם אחסון או תקשורת. באופן אינטואיטיבי, אנטורפיית מידע מכמתת את כמות אי הוודאות המעורבת במשתנה מקרי. לדגומה, הטלה של מטבע הוגן היא בעלת אנטרופיית מידע נמוכה יותר מאשר הטלת קוביית משחק.
יישומים של נושאים מרכזיים בתורת המידע כוללים דחיסת מידע ללא איבוד נתונים (lossless data compression לדוגמה משמש בקבצי ZIP) דחיסת מידע עם איבוד נתונים (lossy data compression לדוגמה משמש בפורמט MP3) , קידוד ערוצי תקשורת. השדה נמצא בהצטלבות של מתמטיקה, סטטיסטיקה, מדעי המחשב, פיזיקה, ניורוביולוגיה והנדסה אלקטורנית. ההשלכות שלו היו חיוניות להצלחה של מסע החחלית וויג'ר לחלל העמוק, ההמצאה של מכשיר הCD, היישימות של טלפונים ניידים, פיתוח האינרטנט, מחקרים לשוניים ושל התפיסה האנושית, הבנה של חורים שחורים ונושאים נוספים.
תתי תחומים חשובים בתורת המידע הם קידוד מידע, קידוד ערוצים, תאוריית סיבוכיות אלגוריתמים, תאוריית מידע אלגוריתמים, ומדידות של מידע.
==חשיבות אפשרית לכלכלה אקולוגית==
תורת המידע עשויה להיות נדבך חשוב בהבנה של תהליכים כלכליים-אקולוגיים היות והיא עוסקת בקשר שבין אנרגיה ואטרופיה לבין מידע, אחסון נתונים ותקשורת.
תהליכים כלכליים ואקולוגיים שניהם מערבים מידע (שמאוחסן לדוגמה בDNA או בקבצי מחשב) כדי לאפשר רתימה של אנרגיה חופשית כדי לבצע עבודה ושינוי של חומרים.
לכאורה הטכנולוגיה היא משאב אינסופי שיכול להצעיד את האנושות עוד ועוד קדימה, אלא שתורת המידע מציבה לדבר זה גבול, שכן בסופו של דבר שמירה של עוד מידע כרוכה בהוצאה של עוד אנרגיה.
==קישורים חיצוניים==
* [http://en.wikipedia.org/wiki/Information_theory בויקיפדיה האנגלית]
[[קטגוריה:תורת המידע]]