שורה 1: |
שורה 1: |
− | '''תורת המידע''' (Information theory) היא ענף של מתמטיקה שימושית ושל הנדסה שעוסקת בכימות של מידע. באופן היסטורי, פותחה תורת המידע כדי למצוא את הגבולות היסודיים בנושאים של דחיסת מידע ושל תקשורת נתונים אמינה. מאז הולדתו של ענף זה הוא התפצל ויש לו יישומים בהסקה סטטיסטית, רשתות שאינן רשתות תקשורת, ביולוגיה (ניורוביולוגיה), תאוריית המידע הקוונטית, אנליזה של נתונים, ותחומים אחרים, אם כי התחום משמש באופן נרחב במחקר של תקשורת נתונים. | + | '''תורת המידע''' (Information theory) היא ענף של מתמטיקה שימושית ושל הנדסה שעוסקת בכימות של מידע. באופן היסטורי, פותחה תורת המידע כדי למצוא את הגבולות היסודיים בנושאים של דחיסת מידע ושל תקשורת נתונים אמינה. מאז הולדתו של ענף זה הוא התפצל ויש לו יישומים בהסקה סטטיסטית, רשתות שאינן רשתות תקשורת, ביולוגיה (נוירוביולוגיה), תאוריית המידע הקוונטית, אנליזה של נתונים, ותחומים אחרים, אם כי התחום משמש באופן נרחב במחקר של תקשורת נתונים. |
| | | |
− | מידה מרכזית בתורת המידע הוא מושג בשם '''[[אנטרופיית מידע]]''', שמבוטא בדרך כלל באמצעות מספר הביטים הנדרשים לשם אחסון או לשם תקשורת. באופן אינטואיטיבי, אנטורפיית מידע מכמתת את כמות אי-הוודאות המעורבת במשתנה מקרי. לדוגמה, הטלה של מטבע הוגן היא בעלת אנטרופיית מידע נמוכה יותר מאשר הטלה של קוביית משחק בעלת 6 פאות. | + | מידה מרכזית בתורת המידע הוא מושג בשם '''[[אנטרופיית מידע]]''', שמבוטא בדרך כלל באמצעות מספר הביטים הנדרשים לשם אחסון או לשם תקשורת. באופן אינטואיטיבי, אנטרופיית מידע מכמתת את כמות אי-הוודאות המעורבת במשתנה מקרי. לדוגמה, הטלה של מטבע הוגן היא בעלת אנטרופיית מידע נמוכה יותר מאשר הטלה של קוביית משחק בעלת 6 פאות. |
| | | |
| האדם שנחשב כאבי תורת המידע הוא [[קלוד אלווד שאנון]], שכתב בשנת 1948 מאמר בשם "תאוריה מתמטית של מידע" ובו תאר את המושג של אנטרופיית מידע. | | האדם שנחשב כאבי תורת המידע הוא [[קלוד אלווד שאנון]], שכתב בשנת 1948 מאמר בשם "תאוריה מתמטית של מידע" ובו תאר את המושג של אנטרופיית מידע. |
| | | |
− | יישומים של נושאים מרכזיים בתורת המידע כוללים דחיסת מידע ללא איבוד נתונים (lossless data compression לדוגמה משמש בקבצי ZIP) דחיסת מידע עם איבוד נתונים (lossy data compression לדוגמה משמש בפורמט MP3), וקידוד ערוצי תקשורת. השדה נמצא בהצטלבות של מתמטיקה, סטטיסטיקה, מדעי המחשב, פיזיקה, ניורוביולוגיה והנדסה אלקטרונית. ההשלכות שלו היו חיוניות להצלחה של מסע החללית וויאג'ר לחלל העמוק, ההמצאה של מכשיר הCD, היישימות של טלפונים ניידים, פיתוח האינטרנט, מחקרים בבלשנות ובתפיסה האנושית, הבנה של חורים שחורים ונושאים נוספים. | + | יישומים של נושאים מרכזיים בתורת המידע כוללים דחיסת מידע ללא איבוד נתונים (lossless data compression לדוגמה משמש בקבצי ZIP) דחיסת מידע עם איבוד נתונים (lossy data compression לדוגמה משמש בפורמט MP3), וקידוד ערוצי תקשורת. השדה נמצא בהצטלבות של מתמטיקה, סטטיסטיקה, מדעי המחשב, פיזיקה, נוירוביולוגיה והנדסה אלקטרונית. ההשלכות שלו היו חיוניות להצלחה של מסע החללית וויאג'ר לחלל העמוק, ההמצאה של מכשיר ה-CD, היישימות של טלפונים ניידים, פיתוח האינטרנט, מחקרים בבלשנות ובתפיסה האנושית, הבנה של חורים שחורים ונושאים נוספים. |
| | | |
| תתי תחומים חשובים בתורת המידע הם קידוד מידע, קידוד ערוצים, תאוריית סיבוכיות אלגוריתמים, תאוריית מידע אלגוריתמים, ומדידות של מידע. | | תתי תחומים חשובים בתורת המידע הם קידוד מידע, קידוד ערוצים, תאוריית סיבוכיות אלגוריתמים, תאוריית מידע אלגוריתמים, ומדידות של מידע. |
| | | |
| ==חשיבות אפשרית לכלכלה אקולוגית== | | ==חשיבות אפשרית לכלכלה אקולוגית== |
− | תורת המידע עשויה להיות נדבך חשוב בהבנה של תהליכים כלכליים-אקולוגיים, וב[[כלכלה אקולוגית]].זאת היות והיא עוסקת בקשר שבין אנרגיה ואנטרופיה לבין מידע, אחסון נתונים ותקשורת - שלכולם תפקידים חשובים הן בכלכלה והן באקולוגיה. | + | תורת המידע עשויה להיות נדבך חשוב בהבנה של תהליכים כלכליים-אקולוגיים, וב[[כלכלה אקולוגית]]. זאת היות והיא עוסקת בקשר שבין אנרגיה ואנטרופיה לבין מידע, אחסון נתונים ותקשורת - שלכולם תפקידים חשובים הן בכלכלה והן באקולוגיה. |
| | | |
| תהליכים כלכליים ותהליכים אקולוגיים מערבים מידע (שמאוחסן לדוגמה בDNA או בקבצי מחשב) כדי לאפשר רתימה של אנרגיה חופשית לשם ביצוע עבודה ושינוי של חומרים. | | תהליכים כלכליים ותהליכים אקולוגיים מערבים מידע (שמאוחסן לדוגמה בDNA או בקבצי מחשב) כדי לאפשר רתימה של אנרגיה חופשית לשם ביצוע עבודה ושינוי של חומרים. |