نظریه اطلاعات [ ویرایش ]

مقالات اصلی: آنتروپی (نظریه اطلاعات) ، آنتروپی در ترمودینامیک و نظریه اطلاعات ، و عدم قطعیت آنتروپیک

فکر کردم اسمش را «اطلاعات» بگذارم، اما این کلمه بیش از حد به کار رفته بود، بنابراین تصمیم گرفتم نام آن را «عدم قطعیت» بگذارم. [...] فون نویمان به من گفت، "به دو دلیل باید آن را آنتروپی نامید. در وهله اول تابع عدم قطعیت شما در مکانیک آماری تحت این نام استفاده شده است، بنابراین قبلاً یک نام دارد. در وهله دوم، و مهمتر از آن، هیچ کس نمی داند آنتروپی واقعا چیست، بنابراین در یک مناظره همیشه از مزیت برخوردار خواهید بود."

مکالمه بین کلود شانون و جان فون نویمان در مورد اینکه چه نامی برای تضعیف سیگنال های خط تلفن بگذاریم [80]

وقتی از نظر تئوری اطلاعات در نظر گرفته شود ، تابع حالت آنتروپی مقدار اطلاعات موجود در سیستم است که برای مشخص کردن کامل وضعیت ریز سیستم مورد نیاز است. آنتروپی اندازه گیری مقدار اطلاعات از دست رفته قبل از دریافت است. [81] که اغلب آنتروپی شانون نامیده می شود ، در ابتدا توسط کلود شانون در سال 1948 برای مطالعه اندازه اطلاعات یک پیام ارسال شده ابداع شد. تعریف آنتروپی اطلاعات بر حسب مجموعه ای از احتمالات گسسته بیان می شودp_{i}به طوری که

H(X)=-\sum _{i=1}^{n}p(x_{i})\log p(x_{i}).

در مورد پیام های ارسالی، این احتمالات احتمالاتی بود که یک پیام خاص واقعاً مخابره شده است و آنتروپی سیستم پیام معیاری برای اندازه متوسط ​​اطلاعات یک پیام بود. در مورد احتمالات مساوی (یعنی هر پیام به یک اندازه محتمل است)، آنتروپی شانون (به بیت) فقط تعداد سوالات دودویی مورد نیاز برای تعیین محتوای پیام است. [28]

اکثر محققان آنتروپی اطلاعات و آنتروپی ترمودینامیکی را مستقیماً با یک مفهوم مرتبط می دانند، [82] [83] [84] [85] [86] در حالی که دیگران استدلال می کنند که آنها متمایز هستند. [87] هر دو عبارت از نظر ریاضی مشابه هستند. اگردبلیوتعداد ریز حالت هایی است که می توانند یک کلان حالت معین را ایجاد کنند، و هر ریز حالت احتمال پیشینی یکسانی دارد، پس این احتمال برابر است با{\displaystyle p=1/W}. آنتروپی شانون (در nats ) عبارت است از:

H=-\sum _{i=1}^{W}p\log(p)=\log(W)و اگر آنتروپی با واحد اندازه گیری شودکدر هر nat، سپس آنتروپی با:

{\displaystyle H=k\log(W)}

که فرمول آنتروپی بولتزمن است ، که در آنکثابت بولتزمن است که ممکن است به عنوان آنتروپی ترمودینامیکی در هر nat تفسیر شود. برخی از نویسندگان استدلال می کنند که کلمه آنتروپی را حذف می کننداچعملکرد نظریه اطلاعات و به جای آن از اصطلاح دیگر شانون، «عدم قطعیت» استفاده می کند. [88]

اندازه گیری [ ویرایش ]

آنتروپی یک ماده را می توان اندازه گیری کرد، هرچند به روش غیر مستقیم. اندازه گیری که به عنوان آنتروپی متری شناخته می شود، [89] روی یک سیستم بسته (با عدد ذره N و حجم V ثابت هستند) انجام می شود و از تعریف دما [90] بر حسب آنتروپی استفاده می کند، در حالی که تبادل انرژی به گرما را محدود می کند.{\displaystyle dU\right arrow dQ}).

{\displaystyle T:=\left({\frac {\partial U}{\partial S}}\right)_{V,N}\Rightarrow \cdots \Rightarrow \;dS=dQ/T}

رابطه حاصل چگونگی تغییر آنتروپی را توصیف می کندdSهنگامی که مقدار کمی از انرژیdQدر دمای معینی وارد سیستم می شود تی.

فرآیند اندازه گیری به شرح زیر است. ابتدا نمونه ای از ماده تا حد امکان نزدیک به صفر مطلق خنک می شود. در چنین دماهایی، آنتروپی به صفر نزدیک می شود - به دلیل تعریف دما. سپس مقادیر کمی گرما به نمونه وارد شده و تغییر دما ثبت می شود تا دما به مقدار مطلوب (معمولاً 25 درجه سانتیگراد) برسد. داده های به دست آمده به کاربر اجازه می دهد تا معادله بالا را ادغام کند و قدر مطلق آنتروپی ماده را در دمای نهایی بدست آورد. به این مقدار آنتروپی آنتروپی کالریمتری می گویند. [91]

کاربردهای بین رشته ای [ ویرایش ]

اگرچه مفهوم آنتروپی در اصل یک مفهوم ترمودینامیکی بود، اما در زمینه‌های مطالعاتی دیگر، [60] از جمله نظریه اطلاعات ، سایکودینامیک ، اقتصاد حرارتی / اقتصاد بوم‌شناختی و تکامل اقتباس شده است . [68] [92] [93] [94] [95]

فلسفه و فیزیک نظری [ ویرایش ]

آنتروپی تنها کمیت در علوم فیزیکی است که به نظر می رسد دلالت بر جهت خاصی از پیشرفت دارد، که گاهی به آن پیکان زمان می گویند . با گذشت زمان، قانون دوم ترمودینامیک بیان می کند که آنتروپی یک سیستم ایزوله هرگز در سیستم های بزرگ در طول دوره های زمانی قابل توجهی کاهش نمی یابد. از این رو، از این منظر، اندازه گیری آنتروپی به عنوان یک ساعت در این شرایط در نظر گرفته می شود.

زیست شناسی [ ویرایش ]

چیاوازو و همکاران پیشنهاد کرد که جایی که عنکبوت های غار برای تخم گذاری انتخاب می کنند را می توان از طریق کمینه سازی آنتروپی توضیح داد. [96]

آنتروپی در تجزیه و تحلیل توالی های جفت باز در DNA مفید است. بسیاری از اقدامات مبتنی بر آنتروپی برای تمایز بین مناطق ساختاری مختلف ژنوم، تمایز بین مناطق کدکننده و غیر کدکننده DNA، و همچنین می‌توانند برای بازآفرینی درختان تکاملی با تعیین فاصله تکاملی بین گونه‌های مختلف اعمال شوند. [97]

کیهان شناسی [ ویرایش ]

با فرض اینکه یک جهان محدود یک سیستم منزوی است، قانون دوم ترمودینامیک بیان می کند که آنتروپی کل آن به طور مداوم در حال افزایش است. از قرن نوزدهم این حدس زده می‌شود که جهان به مرگ گرمایی تبدیل می‌شود که در آن تمام انرژی به صورت توزیع همگن انرژی حرارتی به پایان می‌رسد، به طوری که دیگر نمی‌توان از هیچ منبعی کار استخراج کرد.

اگر بتوان جهان را به طور کلی دارای آنتروپی فزاینده ای در نظر گرفت، آنگاه - همانطور که راجر پنروز اشاره کرده است - گرانش نقش مهمی در افزایش ایفا می کند زیرا گرانش باعث می شود ماده پراکنده در ستاره ها جمع شود، که در نهایت به سیاهچاله ها فرو می ریزند . آنتروپی سیاهچاله متناسب با سطح افق رویداد سیاهچاله است . [98] [99] [100] جیکوب بکنشتاین و استیون هاوکینگنشان داده اند که سیاهچاله ها حداکثر آنتروپی ممکن را نسبت به هر جسمی با اندازه برابر دارند. این باعث می شود که آنها به احتمال زیاد نقاط پایانی تمام فرآیندهای افزایش آنتروپی را داشته باشند، اگر آنها کاملاً تله ماده و انرژی باشند. [101] با این حال، فرار انرژی از سیاهچاله ها ممکن است به دلیل فعالیت کوانتومی امکان پذیر باشد (به تابش هاوکینگ مراجعه کنید ).

نقش آنتروپی در کیهان شناسی از زمان لودویگ بولتزمن به عنوان یک موضوع بحث برانگیز باقی مانده است. کار اخیر تردیدهایی را در مورد فرضیه مرگ گرمایی و کاربرد هر مدل ساده ترمودینامیکی در جهان به طور کلی ایجاد کرده است. اگرچه آنتروپی در مدل یک جهان در حال انبساط افزایش می‌یابد، حداکثر آنتروپی ممکن با سرعت بیشتری افزایش می‌یابد و با گذشت زمان، جهان را از مرگ گرمایی دورتر می‌کند، نه نزدیک‌تر. [102] [103] [104] این منجر به "شکاف آنتروپی" می شود که سیستم را از تعادل مرگ حرارتی فرضی دورتر می کند. [105] سایر عوامل پیچیده، مانند چگالی انرژی خلاء و کوانتوم ماکروسکوپیتطبیق اثرات با مدل های ترمودینامیکی دشوار است و هر گونه پیش بینی ترمودینامیک در مقیاس بزرگ را بسیار دشوار می کند. [106]

تئوری‌های کنونی نشان می‌دهند که شکاف آنتروپی در ابتدا با انبساط سریع نمایی اولیه جهان باز شده است. [107]

اقتصاد [ ویرایش ]

همچنین ببینید: نیکلاس جورجسکو-روگن § ارتباط ترمودینامیک با اقتصاد و اقتصاد اکولوژیک § روش شناسی

نیکلاس ژرژسکو-روگن ، اقتصاددان رومانیایی آمریکایی ، مولد علم اقتصاد و بنیانگذار پارادایم اقتصاد بوم شناختی ، از مفهوم آنتروپی در کار بزرگ خود در مورد قانون آنتروپی و فرآیند اقتصادی استفاده گسترده ای کرد . [83] با توجه به کار ژرژسکو-روگن، قوانین ترمودینامیک بخشی جدایی ناپذیر از مکتب اقتصاد بوم شناختی را تشکیل می دهند. [108] : 204f  [109] : 29-35  اگرچه کارهای او تا حدودی به دلیل اشتباهات لکه دار شد، یک فصل کامل در مورد اقتصاد ژرژسکو-روگن در یک کتاب درسی فیزیک ابتدایی در مورد توسعه تاریخی ترمودینامیک گنجانده شده است. [110] : 95-112 

در علم اقتصاد، کار ژرژسکو-روگن اصطلاح «بدبینی آنتروپی» را ایجاد کرده است. [111] : 116  از دهه 1990، هرمان دالی ، اقتصاددان برجسته بوم‌شناس و نظریه‌پرداز حالت پایدار - شاگرد ژرژسکو-روگن - تأثیرگذارترین طرفدار موضع بدبینی آنتروپی در حرفه اقتصاد بوده است. [112] : 545f  [113]

همچنین ببینید [ ویرایش ]

یادداشت ها [ ویرایش ]

  1. ^ بیش از حد نشان دهنده مشتقات کمیت ها با توجه به زمان است.

منابع

https://en.wikipedia.org/wiki/Entropy