কোর্স:পারিসাংখ্যিক সংকেত প্রক্রিয়ণ/ভূমিকা

ডিপথট থেকে
কোর্স:পারিসাংখ্যিক সংকেত প্রক্রিয়ণ দৈব ভেক্টর ও প্রক্রিয়া >>
প্রশিক্ষক: খান মুহাম্মদ বিন আসাদ
Car linear regression.png

একটি ছোট্ট উদাহরণের মাধ্যমে সংকেত প্রক্রিয়ণ, অর্থাৎ কোনো কিছু পর্যাবেক্ষণ বা পরিমাপের মৌলিক পারিসাংখ্যিক সমস্যাটি তুলে ধরা যায়। ধরা যাক একটি গাড়ি ঘণ্টায় ৬০ কিলোমিটার বেগে যাচ্ছে। কিন্তু আমরা যদি, প্রতি ঘণ্টায় এর দূরত্ব পরিমাপ করে বেগ হিসাব করি তাহলে সেটা কখনোই ৬০ কিমি/ঘ হবে না, কারণ আমাদের পরিমাপজনিত ত্রুটি, যেটা ঘটতে বাধ্য। আমাদের পরিমাপকৃত মানগুলো ডানের চিত্রে সবুজ বিন্দুগুলোর মতো দেখাবে। আসলেই সমবেগে যেতে থাকলে সবগুলো বিন্দু লাল রেখার উপর পড়তো। এই উপাত্তকে আমরা একটি মডেলের সাথে মিলিয়ে বেগ (<math>v</math>) এবং আদি-দূরত্বের (<math>D_0</math>) মতো রাশিগুলো পরিমাপ করতে পারি। এক্ষেত্রে মডেলটি একটি সরলরেখার সমীকরণ:

<math>D = D_0 + vt</math>

পারিসাংখ্যিক সংকেত প্রক্রিয়ণের মৌলিক সমস্যা

পরিমাপ
আমাদের কাছে <math>x</math> রাশির <math>N</math> সংখ্যক মান থাকতে পারে। যেমন, উপরে গাড়ির উদাহরণে দূরত্বের মোট ১৩টি পরিমাপকৃত মান ছিল আমাদের কাছে।
মডেল
যা উপাত্ত এবং আমাদের অনুমিত রাশি ভেক্টরের (<math>\theta</math>) মধ্যে সম্পর্ক বর্ণনা করে। পরিসংখ্যানের ভাষায় একে <math>p(\mathbf{x};\theta)_{\theta\in\Theta}</math> আকারে লেখা হয়। <math>\theta</math> রাশিগুলো <math>\Theta</math> রাশিক্ষেত্র বা প্যারামিটার-স্পেস থেকে নেয়া। <math>\theta</math> জানার পাশাপাশি আমাদেরকে এর সম্ভাব্যতা ঘনত্ব অপেক্ষক-ও (PDF) জানতে হয়।
সিদ্ধান্ত
যে মডেল <math>\theta</math> এর সর্বোত্তম মান দেয় সেটিই উপাত্তের সাথে সবচেয়ে ভালো যায়। সিদ্ধান্ত আবার তিন ধাপে বিভক্ত:
  1. নিরূপন: উপাত্ত দেয়া আছে; রাশিগুলোর (<math>\theta</math>) মান নির্ণয়।
  2. ভবিষ্যদ্বাণী: <math>x</math> সংকেত দেয়া থাকলে তার উপর এবং রাশিগুলোর উপর নির্ভর করে <math>y</math> নামক আরেকটি সংকেতের ভবিষ্যদ্বাণী।
  3. শিক্ষা: <math>x</math> এবং <math>y</math> নামক দু'টি স্টোকাস্টিক উপাত্তের সম্পর্কে শিক্ষা লাভ।

প্রথমে নিরূপন নিয়ে কথা বলা যাক। <math>x</math> দেয়া থাকা অবস্থায় <math>\theta</math> নির্ণয় করা হয় নিরূপক দিয়ে, <math>\hat{\theta} = g(x)</math>.

একটা ভালো নিরূপক তৈরির পথে প্রথম পদক্ষেপ হচ্ছে, উপাত্তের একটা গাণিতিক মডেল তৈরি। আমাদের আলোচ্য সংকেত যেহেতু সাধারণত দৈব সেহেতু একে পিডিএফ দিয়ে প্রকাশ করা হয়। উদাহরণ হিসেবে আমাদের থেকে আকাশগঙ্গার কেন্দ্রের দূরত্ব নির্ণয়ের কথা ধরা যাক। ধরি, কোনো একটা দূরত্ব নিরূপক দিয়ে এই দূরত্বের <math>N</math> সংখ্যক মান নির্ণয় করা হয়েছে, প্রতিটি মানকে <math>x[n]</math> দ্বারা প্রকাশ করা যায় যেখানে <math>n = 1, . . ., N</math>. আসল দূরত্বটা যদি <math>\theta</math> হয় তাহলে পর্যবেক্ষণকৃত প্রতিটি মানের পিডিএফ হবে,

<math>p(x[n];\theta) = \frac{1}{2\pi\sigma^2} \exp\left[-\frac{1}{2\sigma^2}(x[n]-\theta)^2\right]</math>

যেখানে <math>\sigma</math> হচ্ছে পরিমাপটির পরিমিত ব্যবধান। তাহলে সকল পরিমাপের পিডিএফ হবে,

<math>p(x;\theta) = \frac{1}{2\pi\sigma^2} \exp\left[-\frac{1}{2\sigma^2}\sum\limits_{n=1}^N(x[n]-\theta)^2\right]</math>

সাধারণত পিডিএফ দেয়া থাকে না, উপাত্ত সম্পর্কে আমাদের জ্ঞানের উপর ভিত্তি করে এটা অনুমান করে নিতে হয়। যেমন, আকাশগঙ্গার কেন্দ্রের দূরত্ব সম্পর্কে আমাদের পূর্বজ্ঞান হচ্ছে, এটা ১ থেকে ১০ কিলোপারসেকের মধ্যে হবে।

ক্ষেত্রেবিশেষে একটি উপাত্ত একাধিক মডেল দিয়ে বর্ণনা করা যেতে পারে, এবং প্রতিটি মডেলই সমান পরিমাণ ভালো বা খারাপ হতে পারে। আমাদের উপাত্তের প্রতিটি মানের সাথে সংযুক্ত ত্রুটির পরিমাণই নির্ধারণ করবে কোন মডেলটা অপেক্ষাকৃত ভালো।

মডেলের রাশিগুলো নিজেরাই যদি পারিসাংখ্যিক হয়, তাহলে যুগ্ম পিডিএফ লিখতে হবে:

<math>p(x;\theta) = p(x|\theta) p(\theta)</math>

যেখানে,

<math>p(\theta)</math> হচ্ছে রাশিটি সম্পর্কে পূর্বজ্ঞানের উপর ভিত্তি করে নির্মিত প্রাক-পিডিএফ।
<math>p(x|\theta)</math> হচ্ছে শর্তাধীন পিডিএফ, অর্থাৎ রাশিটির একটি নির্দিষ্ট মান দেয়া থাকলে উপাত্তের সম্ভাবনা।

এটিই বেইজীয় নিরূপণ তত্ত্বের মূলভিত্তি: যে রাশিটি আমরা নিরূপণ করতে চাচ্ছি সেটি সম্পর্কেই কিছু পূর্বজ্ঞান থাকা।

নিরূপক ও তাদের কার্যকারিতা

Distance measurements with random error.png

একটা সাধারণ উদাহরণ দিয়ে শুরু করা যাক (ডানের চিত্র): আমাদের হাতে কিছু উপাত্ত আছে; একটা নিরূপকের মাধ্যমে এই উপাত্ত থেকে কাঙ্ক্ষিত রাশিটির মান নির্ণয় করতে হবে। ধরা যাক কাঙ্ক্ষিত রাশিটি কোনোকিছুর দূরত্ব (<math>d_0</math>, লাল ডট রেখা), আর উপাত্ত হচ্ছে সেই দূরত্বের বিভিন্ন পরিমাপ (<math>x[n]</math>, <math>n=1...N</math>; সবুজ রেখা), যেখানে প্রতিটি পরিমাপের সাথে কিছু ত্রুটি (<math>w[n]</math>) রয়ে গেছে। এর গাণিতিক রূপটা হবে:

<math>x[n] = d_0 + w[n]</math>

ত্রুটির প্রতিটি মান একটি পরিমিত বিন্যাস (নরমাল, বা গাউসীয়) থেকে নেয়া হয়েছে বলে এর পিডিএফ <math>\mathcal{N}(\mu,\sigma^2)</math> আকারে লেখা হয়, এবং এর গড় ০ ও পরিমিত ব্যবধান ১ হলে একে শ্বেতনয়েজ, বা গাউসীয় শ্বেতনয়েজ বলা হয়।

এখন এই ত্রুটিপূর্ণ তথা শ্বেত নয়েজযুক্ত উপাত্ত থেকে প্রকৃত মানটি বের করার জন্য আমরা একটি নিরূপক নির্মাণ করতে পারি। এক্ষেত্রে সবচেয়ে স্বাভাবিক নিরূপক হচ্ছে গড়:

<math>\hat{d}_0 = \frac{1}{N} \sum\limits_{n=1}^N x[n]</math>

<math>d_0</math> এর উপর একটি হ্যাট পড়িয়ে দিয়ে বুঝানো হয়েছে এটি প্রকৃত মান নয়, বরং প্রকৃত মানের নিরূপক। এই নিরূপণটি ভালো হল না কি খারাপ হল সেটা বুঝার জন্য নিরূপকটির প্রত্যাশাভেদাঙ্ক নির্ণয় করতে হবে। যদি ধরে নেই নিরূপকটি নিটাল (unbiased), অর্থাৎ এর ত্রুটির বা নয়েজের গড় ০, তাহলে প্রত্যাশা,

<math>E(\hat{d}_0) = E\left( \frac{1}{N} \sum\limits_{n=1}^N x[n]\right) = \frac{1}{N} \sum\limits_{n=1}^N E(x[n]) = d_0</math>

দেখা যাচ্ছে, প্রত্যাশা আমাদেরকে একেবারে প্রকৃত মানটিই দিচ্ছে, যা কেবল নিটাল নিরূপকের কারণেই সম্ভব হয়েছে। আর ভেদাঙ্ক,

<math>\text{Var}(\hat{d}_0) = \text{Var}\left( \frac{1}{N} \sum\limits_{n=1}^N x[n]\right) = \frac{1}{N^2} \sum\limits_{n=1}^N \text{Var}(x[n]) = \frac{\sigma^2}{N}</math>

যার অর্থ, উপাত্ত বিন্দুর সংখ্যা (N) যত বাড়বে আমাদের নিরূপকের ভেদাঙ্ক তত কমবে, যা খুব ভালো।

এবার আরেকটি নিরূপকের কথা চিন্তা করা যাক,

<math>\check{d}_0 = \frac{1}{N+2} \left(2x[1] + \sum\limits_{n=2}^{N-1} x[n] + 2x[N] \right)</math>

এবং প্রত্যাশা ও ভেদাঙ্ক নির্ণয় করে দেখতে হবে এটি আগেরটির চেয়ে ভালো না খারাপ।

মোদ্দাকথা, নিটাল নিরূপকের সবচেয়ে বড় সুবিধা হচ্ছে, এক্ষেত্রে উপাত্তের পরিমাণ যত বাড়বে আমাদের নিরূপিত মানও তত ভালো হবে, অসীম সংখ্যক উপাত্ত থাকলে নিরূপিত মান কাঙ্ক্ষিত মানের একেবারে সমান হবে।

উপাত্তের মডেল

অধিকাংশ ক্ষেত্রে ধরে নেয়া হয় যে, কাঙ্ক্ষিত রাশি [<math>s(\theta)</math>] এবং উপাত্তের (x) মধ্যবর্তী সম্পর্ক রৈখিক,

<math>\mathbf{x} = \mathbf{R} \ \mathbf{s}(\mathbf{\theta}) + \epsilon</math>

যেখানে, <math>\mathbf{R}</math> একটি মেট্রিক্স, যা আমাদের যন্ত্র বা উপকরণের প্রতিক্রিয়ার (যেমন, বিন্দুবিস্তার অপেক্ষক) প্রতিনিধিত্ব করে, এবং <math>\epsilon</math> নয়েজ।

তবে অবশ্যই সম্পর্কটা একেবারে অরৈখিক এবং অনেক জটিল হতে পারে, এবং সচরাচর হয়েও থাকে।