\documentclass[a4paper]{jreport}
%\documentclass[a4paper]{jarticle}
\usepackage{latexsym,theorem}
\usepackage[psamsfonts]{amssymb}
%\begin{proof}[Proof of hogehoge]
%�藝�̏ؖ�\end{proof}
\usepackage{mathpazo}            
\usepackage{amsmath,amssymb}
\usepackage{booktabs}
\usepackage[dvips]{graphicx,color}
\newtheorem{prop}{����}[section]%����
\newtheorem{defn}{��`}[section]%��`
\newtheorem{assm}{����}[section]%����
\newtheorem{thrm}{�藝}[section]%�藝
\newtheorem{cory}{�n�@}[section]%�n
\newtheorem{lema}{���}[section]%���
\newtheorem{remk}{����}[section]%����
\newtheorem{exap}{���}[section]%���
\newtheorem{yotn}{�v�_}[section]%�v�_
\newcommand{\proof}{\textbf{�ؖ��F}}%�ؖ�

\newcommand{\hxi}{\mathrm{\xi}}
\newcommand{\remark}{\textbf{����}}

\renewcommand{\theequation}{%
\thesection.\arabic{equation}}
%\@addtoreset{equation}{section}


\title{�m���_}
\date{Feburuary 2008}
\author{�Ȃ܂�}

\begin{document}
\pagenumbering{roman}

\newpage
\maketitle
\thispagestyle{empty}



%\textbf{�T�v}


\tableofcontents

\section*{�͂��߂�}
\addcontentsline{toc}{section}{�͂��߂�}


���������̂܂���������ƌ��񂵂Ă݂Ă��킩��悤�ɁC���̒��ł͑����̍��E
�T�[�r�X�����Y����C�̔�����Ă��܂��D���E�T�[�r�X�̐��Y�̌���I�����́C
����炪���i��ł��ꏭ�i��ł���C��K�͂ȃ��x���ō���Ă��邱�Ƃł��D
���܂��܂ȏ��i�̑�K�͂Ȑ��Y��T�[�r�X�̑n���܂����̔̔��̂��߂ɂ́C���z
�̎�������ɕK�v�ł��D��������肵�C�����L���ȓ����ɐU������C�̔��s��
�Ő���������̂������C���ʂ𓾂邱�Ƃ��ł��܂��D
�t�@�C�i���X(finance)�Ƃ́C��ƁC���Z�@�ցC�܂��l��
���ꂼ��ɂƂ��āC�����̗���Ɋ֘A�����X�̊����Ƃ������芪�����{�s��
�ł̍s���w�j�Ɋւ���w�╪��ł���ƒ�`���Ă���܂��D
����Љ�ɂ�����t�@�C�i���X�̏d�v�ȋ@�\�Ƃ́C�o�ϊ������X���[�Y�ɓ�����
���������邱�Ƃł��D


�t�@�C�i���X����������ɂ̓t�@�C�i���X�ɂ������b�I�ȊT�O�Ɛ��w�̊m����
�m�����K�v�ł��D�w�񂾒m�������p�Ɏ��H���Ă݂邱�ƂƎ����̒m����������
�[�߂邽�߂Ɍ������n�܂�܂����D�������Ă킩�������Ƃ͖��𔭌����C
�������������͓̂���Ǝv���܂��D�Ⴆ�΃}�[�R���B�b�c�̓����Ƃ�
�������v��$R(\mathbold{x})$�̕��ς��傫�����U���������|�[�g�t�H���I
$\mathbold{x}$��]�ނƂ�����Ɋ�Â��āC�œK������
���ρE���U���f��������Č��������̂͂�������������܂����D
�����āC���̊����݂̂̏ꍇ�̕��ρE���U���f���̍œK��$\mathbold{x}$
(�ŏ��|�[�g�t�H���I)�����߂ăO���t���`�����Ƃ��o���܂����D




\newpage
\pagenumbering{arabic}
\setcounter{page}{1}




\chapter{�m���_�̏���}


\section{�m���_}

���Z�H�w�͋��Z���X�N�ɑ΂���H�w�I�A�v���[�`�Ƃ����Ă��ߌ��ł͂Ȃ��D
�����ł́C���X�N���\���I����ʓI�ɔc�����邽�߂̃c�[���Ƃ��Ă�
�m���_�̊�b���C���Z�H�w�ւ̉��p��ƂƂ��Ɋw�ԁD

\subsection*{�m�����x}

$\Omega$����W��, $\mathcal{A}$��
$\Omega$���$\sigma$-���@���Ƃ���. $\Omega$���Z�ł����,
�ʏ�,
$\mathcal{A}$��$\Omega$�̕����W����
�S�̂ł���. $\Omega$����Z,
�Ⴆ��, $\Omega=[0,1]$�̏ꍇ, ���$\mathcal{A}$
��$\Omega$�̃{�������@���ł���.$ \mathcal{A}$
�̊e�v�f�͎���\label{:eventr}\index{�����傤@����}�Ƃ�΂��.
�m���̌����I��`��^���邽�߂ɂ�, ����$A$���N����m����������$P\{A\}$
���e����$A$�ɑ΂��Ċ��蓖�Ă�K�v������. ����, ��$P\{A\}$��
���҂���鐔�w�I�����𖞂������߂�, ���̎O�̌�����������.


\vskip 0.2cm\noindent {\bf ���� 1.} {\em $P\{\Omega\}=1$.}

\vskip 0.2cm\noindent {\bf ���� 2.}  �C�ӂ�$A\in\mathcal{A}$�ɑ΂���, 
$P\{A\}\ge 0$

\vskip 0.2cm\noindent {\bf ���� 3.}  ������݂��ɑf�Ȏ���
$\{A_i\}_{i=1}^{\infty}$
�̉Z����ɑ΂���, 
\begin{equation}
P\left\{\bigcup_{i=1}^{\infty}A_i\right\}=\sum_{i=1}^{\infty}P\{A_i\}.
\label{pr:01}
\end{equation}

%\newtheorem{randomdef}{��`}
\begin{defn}
�W���֐�$P$���O�̌����𖞂����Ƃ�,
�m�����x\index{�����������@�m�����x}�Ƃ�΂��.
\end{defn}

\begin{exap}
$\Omega=\{\omega_1,\omega_2,\cdots\}$, 
$\mathcal{A}$��$\Omega$�̕����W���̑S�̂Ƃ���. �܂�,
$p_1,p_2,\cdots$��
$p_1+p_2+\cdots=1$�ł���悤�Ȕ񕉂̐��Ɖ��肷��. $\mathcal{A}$
��̏W���֐��������Œ�`����. 
\begin{equation}\label{pr:02}
P\{A\}=\sum_{\omega_i\in A}p_i,\quad A\in\mathcal{A}.
\end{equation} $P$�͊m�����x�ł���. 
\end{exap}

\begin{exap} 
$\Omega=[0,1]$, $\mathcal{A}$��$\Omega$��̃{�������@���Ƃ���. 
$P$�����x�[�O���x�Ȃ��,
$P$�͊m�����x�ł���.
\end{exap}

\begin{thrm}
$\Omega$����W��, $\mathcal{A}$��
$\Omega$���$\sigma$-���@��, $P$
���m�����x�Ƃ���. ���̂Ƃ�,\\
$(a)$ $P\{\emptyset\}=0$;\\
$(b)$ $P$�͎��ȑo��. �܂�, �C�ӂ�$A\in\mathcal{A}$�ɑ΂���, $P\{A\}+P\{A^c\}=1$;\\
$(c)$ $P$�͑����֐�. �܂�, $A \subset  B$�Ȃ��, $P\{A\}\le P\{B\}$;\\
$(d)$ �C�ӂ�$A\in\mathcal{A}$�ɑ΂���, $0\le P\{A\}\le 1$.
\end{thrm}

\proof 
$(a)$  $\emptyset$��$\Omega$�͔w�����ۂ�, $\emptyset\cup\Omega=\Omega$�Ȃ̂�,
$P\{\emptyset\}+P\{\Omega\}=P\{\Omega\}$�����藧���Ƃ���,
$P\{\emptyset\}=0$��������.

$(b)$ $A$��$A^c$�͔w�����ۂ�, $A\cup A^c=\Omega$�Ȃ̂�, 
$P\{A\}+P\{A^c\}=P\{\Omega\}=1$.

$(c)$ $A\subset B$�ł��邱�Ƃ���, $A$
��$B\cap A^c$���w�����ۂȂ��, $B=A\cup(B\cap A^c)$�����藧��.
�䂦��, 
$P\{B\}=P\{A\}+P\{B\cap A^c\}\ge P\{A\}$.

$(d)$ $\emptyset\subset A\subset\Omega$�Ȃ̂�, 
$(c)$����$0\le P\{A\}\le 1$���]��. \hfill $\Box$

\subsection*{�m���g���藝}
�ʏ�,
�m�����x�̍\����, ���鐧�����ꂽ�W�����l���邱�Ƃ���
�n�܂�. �m���g���藝��, �m�����x�̍\�����@��^������̂ł���.

%\newshadetheorem{randomtheextension}[randomthe]{�藝}
\begin{thrm}\label{pr:ProbExtension}(�m���g���藝\index
{������������傤�Ă���@�m���g���藝})
$\Omega$����W��, $\mathcal{A}_0$��$\Omega$��̉��@��, 
$P$��$\mathcal{F}_0$���$P\{\Omega\}=1$�𖞂������x�Ƃ���. 
���̂Ƃ�, $P$��
$\mathcal{F}_0$���܂ލŏ���$\sigma$-���@��$\mathcal{A}$��
�̊m�����x�ɗB��̊g��������.

\proof
�J���e�I�h���̊g���藝�̓���ȏꍇ�ł���.

\end{thrm}

\subsection*{�m���A���藝}

%\newshadetheorem{randthecont2}[randomthe]{�藝}
\begin{thrm}
$\Omega$����W��, $\mathcal{A}$
��$\Omega$���$\sigma$-���@��, $P$���m�����x
�Ƃ���. ���̂Ƃ�, ���������藧��. 
\begin{equation}
\pi\left\{\liminf_{i\to\infty}A_i\right\}\le\liminf_{i\to\infty}\pi\{A_i\}\le
\limsup_{i\to\infty}\pi\{A_i\}\le\pi\left\{\limsup_{i\to\infty}A_i\right\}.
\end{equation}
\end{thrm}
\proof
�藝 �̓���ȏꍇ�ł���.



\begin{thrm}(�m���A���藝\index{�������񂼂��Ă���@�m���A���藝})
\label{:continuityprob}
$\Omega$����W��, $\mathcal{A}$��
$\Omega$���$\sigma$-���@��, $P$���m�����x
�Ƃ���.
$A_1,A_2,\cdots\in\mathcal{A}$��, $\lim_{i\to\infty}A_i$
�����݂���Ȃ��,
\begin{equation}
\lim_{i\to\infty}P\{A_i\}=P\left\{\lim_{i\to\infty}A_i\right\}.
\end{equation}
\end{thrm}
\proof ���x�A�����藝�̓���ȏꍇ�ł���.

\subsection*{�m�����}

%\newtheorem{randomdefps1}[randomdef]{��`}
\begin{defn}\label{:pms}
$\Omega$����W��, $\mathcal{A}$��
$\Omega$���$\sigma$-���@��, $P$���m�����x
�Ƃ���. ���̂Ƃ�, 3�̑g
$(\Omega,\mathcal{A},P)$�͊m�����\index
{�������������@�m�����}�Ƃ�΂��.
\end{defn}

\begin{exap} 
$\Omega=\{\omega_1,\omega_2,\cdots\}$, $\mathcal{A}$
��$\Omega$�̕����W���̑S��, $P$��$(\ref{pr:02})$
�ɂ���`���ꂽ�m�����x�Ƃ���. 
���̂Ƃ�, $(\Omega,\mathcal{A},P)$�͊m����Ԃł���.
\end{exap}

\begin{exap}
$\Omega=[0,1], \mathcal{A}$��
$\Omega$��̃{�������@��, $P$�����x�[�O���x�Ƃ���. ���̂Ƃ�,
$(\Omega,\mathcal{A},P)$�͊m����Ԃł���.
\end{exap}

\subsection*{���ϊm�����}

$(\Omega_i, \mathcal{A}_i,P_i)$, $i=1,2,\cdots,n$���m�����, 
$\Omega=\Omega_1\times\Omega_2\times\cdots\times\Omega_n$,
$\mathcal{A}=\mathcal{A}_1\times\mathcal{ 
A}_2\times\cdots\times\mathcal{A}_n$
�Ƃ���.
�m�����x$P_i,i=1,2,\cdots,n$�͗L���ɂȂ�.
���ϑ��x�藝����,
�C�ӂ�$A_i\in\mathcal{A}_i$, $i=1,2,\cdots,n$�ɑ΂���,
�����𖞂������x$P$��$\mathcal{A}$��Ɉ�ӂɑ��݂���
$$P\{A_1\times A_2\times\cdots\times 
A_n\}={P}_1\{A_1\}\times{P}_2\{A_2\}\times\cdots\times{P}_n\{A_n\}$$
���̌��_��{\em ���ϊm���藝}\index
{���傭����������Ă���@���ϊm���藝}�Ƃ�΂��. ���x
$P$���܂�, ��������m�����x�ł��邱�Ƃ��킩��.
$$P\{\Omega\}={P}_1\{\Omega_1\}\times{P}_2\{\Omega_2\}\times\cdots
\times{P}_n\{\Omega_n\}=1.$$
���̂悤�Ȋm�����x�͒��ϊm�����x�Ƃ�΂�,
$P={P}_1\times{P}_2\times\cdots\times{P}_n$�ƋL�����.

%\newtheorem{randomdefproduct}[randomdef]{��`}
\begin{defn}\label{:product-pro}
$(\Omega_i, \mathcal{A}_i,P_i)$, $i=1,2,\cdots,n$���m�����,
$\Omega=\Omega_1\times\Omega_2\times\cdots\times\Omega_n$,
$\mathcal{A}=\mathcal{A}_1\times\mathcal{ 
A}_2\times\cdots\times\mathcal{A}_n,$
$P=P_1\times P_2\times \cdots \times P_n$�Ƃ���.
���̂Ƃ�, 3�̑g $(\Omega,\mathcal{A},P)$
�͒��ϊm�����\index{���傭�����������������@���ϊm�����}�Ƃ�΂��.
\end{defn}

\subsection*{�������ϊm�����}

$(\Omega_i, \mathcal{A}_i,P_i)$, $i=1,2,\cdots$��C�ӂ�
�m����Ԃ̗�, �����, 
\begin{equation}
\Omega=\Omega_1\times\Omega_2\times\cdots,\quad
\mathcal{A}=\mathcal{A}_1\times\mathcal{A}_2\times \cdots
\end{equation}
�Ƃ���. �������ϑ��x�藝����, �C�ӂ̉������`$A_1\times \cdots \times A_n\times\Omega_{n+1}\times \Omega_{n+2}\times \cdots $�ƑS�Ă�$n=1,2,\cdots$�ɑ΂���,
�����𖞂���$\mathcal{A}$��̊m�����x$P$����ӂɑ��݂���.
$$P\left\{A_1\times \cdots \times 
A_n\times \Omega_{n+1}\times \Omega_{n+2}\times \cdots \right\}
={P}_1\{A_1\} \times \cdots \times{P}_n\{A_n\} $$
�m�����x $P$��$P_i,i=1,2,\cdots$
�̖������ςƂ�΂�,
\begin{equation}
P={P}_1\times{P}_2\times \cdots
\end{equation}
�ƋL�����.

%\newtheorem{randomdefproducti}[randomdef]{��`}
\begin{defn}
Let $(\Omega_i, \mathcal{A}_i,P_i)$, $i=1,2,\cdots$���m�����
$\Omega=\Omega_1\times \Omega_2\times \cdots$,
$\mathcal{A}=\mathcal{A}_1\times \mathcal{A}_2\times \cdots,$
$P=P_1\times P_2\times \cdots$�Ƃ���.
���̂Ƃ�, 3�̑g$(\Omega,\mathcal{A},P)$�͖������ϊm�����
�Ƃ�΂��.
\end{defn}



\subsection*{�m���ϐ�}

%\newtheorem{randomdefnumber}[randomdef]{��`}
\begin{defn}\label{randomdefnumber}
�m���ϐ�\index{������ւ񂷂�@�m���ϐ�}�Ƃ�, �m�����$(\Omega, 
\mathcal{A},P)$
��������W���ւ̉��֐��ł���.
\end{defn}

\begin{exap} 
$\Omega=\{\omega_1,\omega_2\}$,
$P\{\omega_1\}=P\{\omega_2\}=0.5$�Ƃ���. ���̂Ƃ�, $(\Omega, 
\mathcal{A},P)$
�͊m����Ԃ�, �����̊֐��͊m���ϐ��ł���.
$$\xi(\omega)=\left\{\begin{array}{ll}
0,&\mbox{if }\omega=\omega_1\\[0.1cm]
1,&\mbox{if }\omega=\omega_2
\end{array}\right.$$
\end{exap}

\begin{exap} 
$\Omega=[0,1]$, $\mathcal{A}$��$\Omega$��̃{�������@��, 
$P$�����x�[�O���x�Ƃ���. ���̂Ƃ�, $(\Omega, \mathcal{A},P)$
�͊m����Ԃł���. ������, $\xi$��$\Omega$����[0,1]�ւ�
�P���֐��Ƃ���. $\xi$�͉��֐��Ȃ̂�
�m���ϐ��ł���.
\end{exap}


\begin{exap} 
�萔$c$�����Ȋm���ϐ��Ƃ���
�����邱�Ƃ��ł���. ����,
����͊m�����
$(\Omega,\mathcal{A},P)$��̍P���֐�$\xi(\omega)\equiv c$�ł���.
\end{exap}

%\newtheorem{randomdeftype}[randomdef]{��`}
\begin{defn}\label{:rac}\label{:rvs}\label{:rvd}
�m���ϐ�$\xi$��\\
(a) �񕉂ł���Ƃ�, $P\{\xi<0\}=0$;\\
(b) ���ł���Ƃ�, $P\{\xi\le 0\}=0$;\\
(c) �A��\index{������ւ񂷂�@�m���ϐ�!��񂼂�@--�A��}�ł���Ƃ�, �e$x\in R$�ɑ΂���, $P\{\xi=x\}=0$;\\
(d) �P��\index{������ւ񂷂�@�m���ϐ�!���񂶂��@--�P��}�ł���Ƃ�, �����𖞂����L������$\{x_1,x_2,\cdots,x_m\}$�����݂��邱��.
\begin{equation}
P\left\{\xi\not=x_1,\xi\not=x_2,\cdots,\xi\not=x_m\right\}=0;
\end{equation}
(e) ���U�I\index
{������ւ񂷂�@�m���ϐ�!�肳��Ă�@--���U�I}�ł���Ƃ�, 
�����𖞂����Z���� $\{x_1,x_2,\cdots\}$�����݂��邱��.
\begin{equation}
P\left\{\xi\not=x_1,\xi\not=x_2,\cdots\right\}=0.
\end{equation}
\end{defn}

%\newtheorem{randomdefequal}[randomdef]{��`}
\begin{defn}\label{randomdefequal}
$\xi$��$\eta$���m�����$(\Omega, \mathcal{A},P)$���
��`�����m���ϐ��Ƃ���. 
$\xi=\eta$�Ƃ�, �قƂ�ǑS�Ă�$\omega\in\Omega$�ɑ΂���, $\xi(\omega)=\eta(\omega)$
�ƂȂ邱�Ƃł���.
\end{defn}

\subsection*{�m���x�N�g��}

%\newtheorem{randomdefvector}[randomdef]{��`}
\begin{defn}\label{randomdefvector}
$n$-�����m���x�N�g����,
�m�����$(\Omega,\mathcal{A},P)$����$n$-�������x�N�g��
�W���ւ̉��֐��ł���.
\end{defn}

�m���x�N�g��$\hxi$��, $\Omega$����$R^n$
�ւ̊֐��Ȃ̂�, ������$\omega\in\Omega$�ɑ΂���,
$\hxi(\omega)=(\xi_1(\omega),\xi_2(\omega),\cdots,\xi_n(\omega))$
�ƋL����. �A��,
$\xi_1,\xi_2,\cdots,\xi_n$��$\Omega$����$R$�ւ̊֐�.
$\xi_1,\xi_2,\cdots,\xi_n$��, ��`~\ref{randomdefnumber}
�̈Ӗ��Ŋm���ϐ���?
���΂�, $\xi_1,\xi_2,\cdots,\xi_n$���m���ϐ�
�Ɖ��肵���Ƃ�, $(\xi_1,\xi_2,\cdots,\xi_n)$
��, ��`~\ref{randomdefvector}�̈Ӗ��Ŋm���x�N�g����?
�����͐��ł���. ����, ���̒藝�����݂���.

%\newshadetheorem{randomtherv}[randomthe]{�藝}
%\begin{randomtherv}
\begin{thrm}\label{randomtherv}
�x�N�g��$(\xi_1,\xi_2,\cdots,\xi_n)$���m���ϐ��ł��邽�߂�
�K�v�\��������,
$\xi_1,\xi_2,\cdots,\xi_n$ ���m���ϐ��ł��邱��.
%\end{randomtherv}
\end{thrm}

\proof $\hxi=(\xi_1,\xi_2,\cdots,\xi_n)$�Ƃ�, $\hxi$��
�m�����$(\Omega,\mathcal{A},P)$
��̊m���x�N�g���Ƃ���. �C�ӂ�$R$�̃{�����W��$B$�ɑ΂���,
�W��$B\times R^{n-1}$���܂�$R^n$�̃{�����W��
�Ȃ̂Ŏ���������. 
$$\begin{array}{rl}\left\{\omega\in\Omega\bigm|\xi_1(\omega)\in B\right\}
\!\!\!\!&=\left\{\omega\in\Omega\bigm|\xi_1(\omega)\in B,\xi_2(\omega)\in 
R,\cdots,\xi_n(\omega)\in R\right\}\\[0.1cm]
&=\left\{\omega\in\Omega\bigm|\hxi(\omega)\in 
B\times R^{n-1}\right\}\in\mathcal{A}
\end{array}$$
�㎮��, $\xi_1$���m���ϐ��ł��邱�Ƃ������Ă���. ���l�ɂ���,
$\xi_2,\xi_3,\cdots,\xi_n$���m���ϐ��ł��邱�Ƃ��ؖ��ł���.


�t��, �S�Ă�$\xi_1,\xi_2,\cdots,\xi_n$���m�����
$(\Omega,\mathcal{A},P)$��̊m���ϐ��Ɖ��肷��. �����Ŏ����`����.
$$\mathcal{B}=\left\{B\subset R^n
\bigm|\{\omega\in\Omega|\hxi(\omega)\in B\}\in\mathcal{A}\right\}.$$
$\mathcal{B}$��$R^n$�̑S�Ẵ{�����W�����܂�ł��邱�Ƃ��������,
�x�N�g��$\hxi=(\xi_1,\xi_2,\cdots,\xi_n)$
�͊m���ϐ��ł��邱�Ƃ��ؖ����ꂽ���ƂɂȂ�.
�܂�, ��������, �W����$\mathcal{B}$��$R^n$
�̑S�Ă̊J��Ԃ��܂�ł���. 
$$\left\{\omega\in\Omega\bigm|\hxi(\omega)\in\prod_{i=1}^n 
(a_i,b_i)\right\}
=\bigcap_{i=1}^n\left\{\omega\in\Omega\bigm|\xi_i(\omega)\in 
(a_i,b_i)\right\}\in\mathcal{A}.$$
�����, �W����$\mathcal{B}$��$R^n$��$\sigma$-���@���ł���.  
�Ȃ��Ȃ��, (i)
$\{\omega\in\Omega|\hxi(\omega)\in R^n\}=\Omega\in\mathcal{A}$�Ȃ̂� 
$R^n\in\mathcal{B}$; 
(ii) $B\in\mathcal{B}$�Ȃ��, 
$\{\omega\in\Omega|\hxi(\omega)\in B\}\in\mathcal{A}$, ���� 
$$\{\omega\in\Omega\bigm|\hxi(\omega)\in 
B^c\}=\{\omega\in\Omega\bigm|\hxi(\omega)\in B\}^c\in\mathcal{A}.$$
�㎮��, $B^c\in\mathcal{B}$���咣���Ă���; (iii) $i=1,2,\cdots$�ɑ΂���, 
$B_i\in\mathcal{B}$�Ȃ��,
$\{\omega\in\Omega|\hxi(\omega)\in B_i\}\in\mathcal{A}$, ���� 
$$\left\{\omega\in\Omega\bigm|\hxi(\omega)\in\bigcup_{i=1}^{\infty}B_i
\right\}
=\bigcup_{i=1}^{\infty}\{\omega\in\Omega\bigm|\hxi(\omega)\in 
B_i\}\in\mathcal{A}.$$
�㎮��, $\cup_iB_i\in\mathcal{B}$���咣���Ă���.
$R^n$�̑S�Ă̊J��Ԃ��܂ލŏ���$\sigma$-���@����$R^n$
�̃{�������@���Ȃ̂�,
�W����$\mathcal{B}$�͑S�Ă�$R^n$�̃{�����W�����܂�.
�藝�͏ؖ����ꂽ.

\subsection*{�m���Z�p}

%\newtheorem{randomdefoperation1}[randomdef]{��`}
%\begin{randomdefoperation1}(�m����ԏ�̊m���Z�p)
\begin{defn}(�m����ԏ�̊m���Z�p)
$f: R^n\rightarrow R$�����֐�, $\xi_1,\xi_2,\cdots,\xi_n$
���m����� $(\Omega,\mathcal{A},P)$
��Œ�`���ꂽ�m���ϐ��Ƃ����,
$\xi=f(\xi_1,\xi_2,\cdots, \xi_n)$�͎����Œ�`�����
�m���ϐ�.
\begin{equation}
\xi(\omega)=f(\xi_1(\omega),\xi_2(\omega),\cdots,\xi_n(\omega)),\quad \forall \omega\in\Omega.
\end{equation}
%\end{randomdefoperation1}
\end{defn}

\begin{exap}
$\xi_1$��$\xi_2$���m�����$(\Omega,\mathcal{A},P)$
��̊m���ϐ��Ƃ���. ���̂Ƃ�, �a�Ɛς͎����Œ�`�����.
$$(\xi_1+\xi_2)(\omega)=\xi_1(\omega)+\xi_2(\omega),\quad
(\xi_1\times\xi_2)(\omega)=\xi_1(\omega)\times\xi_2(\omega),\quad \forall \omega\in\Omega.$$
\end{exap}

%\newtheorem{randomdefoperation}[randomdef]{��`}
%\begin{randomdefoperation}
\begin{defn}(�قȂ�m����ԏ�̊m���Z�p)
$f: R^n\rightarrow R$�����֐�, $\xi_i$
�����ꂼ��m����� $(\Omega_i,\mathcal{A}_i,P_i)$, $i=1,2,\cdots,n$
��Œ�`�����m���ϐ��Ƃ���.
���̂Ƃ�, $\xi=f(\xi_1,\xi_2,\cdots, \xi_n)$�͊m�����
$(\Omega,\mathcal{A},P)$��őS�Ă�
$(\omega_1,\omega_2,\cdots,\omega_n)\in\Omega$�ɑ΂���, 
�����Œ�`�����m���ϐ�.
\begin{equation}\label{randomoperation}
\xi(\omega_1,\omega_2,\cdots,\omega_n)=f(\xi_1(\omega_1),\xi_2(\omega_2),
\cdots,\xi_n(\omega_n))
\end{equation}
%\end{randomdefoperation}
\end{defn}

\begin{exap}
$\xi_1$��$\xi_2$�����ꂼ��m�����$(\Omega_1,\mathcal{A}_1,P_1)$,
$(\Omega_2,\mathcal{A}_2,P_2)$��̊m���ϐ��Ƃ���.
�C�ӂ�$(\omega_1,\omega_2)\in\Omega_1\times\Omega_2$�ɑ΂���,
�a�Ɛς͎����Œ�`�����.
$$(\xi_1+\xi_2)(\omega_1,\omega_2)=\xi_1(\omega_1)+\xi_2(\omega_2),\quad
(\xi_1\times\xi_2)(\omega_1,\omega_2)=\xi_1(\omega_1)\times\xi_2(\omega_2).$$
\end{exap}

\vskip 0.2cm

�ǎ҂�, (\ref{randomoperation})�Œ�`�����$\xi(\omega_1,\omega_2,\cdots,\omega_n)$
���m���ϐ��ł��邩�ǂ����ƍl���邩������Ȃ�. 
���̒藝�����̖₢�ɓ�����.

%\newshadetheorem{randomtheop}[randomthe]{�藝}
%\begin{randomtheop}
\begin{thrm}
$\hxi$��$n$-�����m���x�N�g��,
$f:R^n\rightarrow R$�����֐��Ƃ���. ���̂Ƃ�, $f(\hxi)$�͊m���ϐ��ł���.
\end{thrm}
%\end{randomtheop}
\proof $\hxi$���m�����$(\Omega,\mathcal{A},P)$
��̊m���x�N�g���Ɖ��肷��.
�C�ӂ�$R$�̃{�����W��$B$�ɑ΂���, $f$�͉��֐��Ȃ̂�,
$f^{-1}(B)$ ���܂�$R^n$�̃{�����W���ɂȂ�. �����,
$$\left\{\omega\in\Omega\bigm|f(\hxi(\omega))\in B\right\}
=\left\{\omega\in\Omega\bigm|\hxi(\omega)\in 
f^{-1}(B)\right\}\in\mathcal{A}.$$
�㎮��, $f(\hxi)$���m���ϐ��ł��邱�Ƃ������Ă���. 

\subsection*{�A�����藝}

%\newshadetheorem{randomtheuparrow}[randomthe]{�藝}
%\begin{randomtheuparrow}
\begin{thrm}\label{randomtheuparrow}
(a) $\{\xi_i\}$��$\lim_{i\to\infty}\xi_i$���m���ϐ��ł���m���ϐ��̑�����
�Ƃ���. ���̂Ƃ�, �C�ӂ̎���$r$�ɑ΂���, ���������藧��.
\begin{equation}\label{randomtheuparrow12}
\lim_{i\to\infty}P\{\xi_i>r\}=P\left\{\lim_{i\to\infty}\xi_i>r\right\}.
\end{equation}
(b)  $\{\xi_i\}$��$\lim_{i\to\infty}\xi_i$���m���ϐ��ł���m���ϐ��̌�����
�Ƃ���. ���̂Ƃ�, �C�ӂ̎���$r$�ɑ΂���, ���������藧��.
\begin{equation}\label{randomtheuparrow13}
\lim_{i\to\infty}P\{\xi_i\ge r\}=P\left\{\lim_{i\to\infty}\xi_i\ge r
\right\}.
\end{equation}
(c) �� (\ref{randomtheuparrow12})��(\ref{randomtheuparrow13})��,
``$>$'' �� ``$\ge$'' ��``$\le$''��``$<$''��
���ꂼ������Ă����藧��.
\end{thrm}
%\end{randomtheuparrow}
\proof $\{\xi_i\}$��, �m���ϐ��̑�����Ȃ̂�,
$$\{\xi_i>r\}\uparrow\left\{\lim_{i\to\infty}\xi_i>r\right\}.$$
�m���A�����藝����(\ref{randomtheuparrow12})�͐��藧��.
���l�ɂ���, $\{\xi_i\}$���m���ϐ��̌�����Ȃ��,
$$\{\xi_i\ge r\}\downarrow\left\{\lim_{i\to\infty}\xi_i\ge r\right\}$$
�㎮�Ɗm���A�����藝����, (\ref{randomtheuparrow13})�͐��藧��.


\begin{exap}
(\ref{randomtheuparrow12})�ɂ�����, �L�� ``$>$''��``$\ge$''
�ɂ��邱�Ƃ͂ł��Ȃ�.
$(\Omega,\mathcal{A},P)$���m����ԂƂ�,
�S�Ă�$\omega\in\Omega$�ɑ΂���, �������`����. 
$$\xi(\omega)=1,\quad\xi_i(\omega)=1-\frac{1}{i},\quad i=1,2,\cdots$$
���̂Ƃ�, $\xi_i\uparrow\xi(i\rightarrow\infty)$. ������,
$$\lim_{i\to\infty}P\{\xi_i\ge 1\}=0\not=1=P\left\{\xi\ge 1\right\}.$$
\end{exap}


%\newshadetheorem{randomthelimit}[randomthe]{�藝}
%\begin{randomthelimit}
\begin{thrm}\label{randomthelimit}
$\{\xi_i\}$���Ɍ� $\lim_{i\to\infty}\xi_i$�����݂�,
���m���ϐ��ł���m���ϐ���Ƃ���. 
���̂Ƃ�, �قƂ�ǑS�Ă�$r\in R$�ɑ΂���, 
\begin{equation}\label{randomthelimit12}
\lim_{i\to\infty}P\{\xi_i\ge r\}=P\left\{\lim_{i\to\infty}\xi_i\ge r
\right\}.
\end{equation}
��(\ref{randomthelimit12})��``$\ge$''
��``$\le$'', ``$>$'' �܂���``$<$''�ɂ��Ă����藧��.
\end{thrm}
%\end{randomthelimit}
\proof $\xi_i\to\xi$�Ƃ���. $P\{\xi\ge r\}$��,
$r$�̌����֐���, ������Ƃ���A���ł���. 
$P\{\xi\ge r\}$�̔C�ӂ̘A���_$r_0$
�ɑ΂���, (\ref{randomthelimit12})�̐������������,
�藝�͏ؖ������.
�C�ӂ�$\varepsilon>0$�ɑ΂���, �����𖞂���
$\delta>0$�����݂���. 
\begin{equation}\label{random777}
|P\{\xi\ge r_0\pm\delta\}-P\{\xi\ge r_0\}|\le\frac{\varepsilon}{2}.
\end{equation}
������, �������`����.
$$\Omega_n=\bigcap_{i=n}^{\infty}\{|\xi_i-\xi|<\delta\},\quad 
n=1,2,\cdots$$
$\{\Omega_n\}$�� 
$\Omega_n\to\Omega$�𖞂�����������. �����,
$P\{\Omega_m\}>1-\varepsilon/2$��
$P\{\Omega_m^c\}<\varepsilon/2$�𖞂������R��$m$�����݂���̂�,
�C�ӂ�$i>m$�ɑ΂���, 
$$\{\xi_i\ge r_0\}=\left(\{\xi_i\ge 
r_0\}\cap\Omega_m\right)\cup\left(\{\xi_i\ge r_0\}\cap\Omega_m^c\right)
\subset\{\xi\ge r_0-\delta\}\cup\Omega_m^c.$$
(\ref{random777})�ɂ��, 
\begin{equation}\label{random888}
P\{\xi_i\ge r_0\}\le P\{\xi\ge r_0-\delta\}+P\{\Omega_m^c\}\le P\{\xi\ge 
r_0
\}+\varepsilon.
\end{equation}
���l��, $i>m$�ɑ΂���, ����������.
$$\{\xi\ge r_0+\delta\}=\left(\{\xi\ge 
r_0+\delta\}\cap\Omega_m\right)\cup\left(\{\xi\ge 
r_0+\delta\}\cap\Omega_m^c\right)
\subset\{\xi_i\ge r_0\}\cup\Omega_m^c.$$
(\ref{random777})�ɂ��, 
\begin{equation}
\label{random999}
P\{\xi\ge r_0\}-\frac{\varepsilon}{2}\le P\{\xi\ge r_0+\delta\}\le P\{
\xi_i\ge r_0\}+\frac{\varepsilon}{2}.
\end{equation}
$(\ref{random888})$��$(\ref{random999})$����,
�������]��. 
$$P\{\xi\ge r_0\}-\varepsilon\le P\{\xi_i\ge r_0\}\le P\{\xi\ge 
r_0\}+\varepsilon.$$
$\varepsilon\to 0$�Ƃ����, 
$P\{\xi_i\ge r_0\}\to P\{\xi\ge r_0\}$������.
�藝�͏ؖ����ꂽ.

\subsection*{�m�����z}

%\newtheorem{randomdefdistr}[randomdef]{��`}
%\begin{randomdefdistr}
\begin{defn}\label{:pdistribution}
�m���ϐ�$\xi$�̊m�����z$\Phi$: $R\rightarrow [0,1]$\index
{������Ԃ��@�m�����z}
�͎����Œ�`�����.
\begin{equation}
\Phi(x)=P\left\{\omega\in\Omega\bigm|\xi(\omega)\le x\right\}.
\end{equation}
\end{defn}
%\end{randomdefdistr}
�܂�, $\Phi(x)$�͊m���ϐ�$\xi$��, $x$�ȉ��ł���m��.

\begin{exap} �m���ϐ�$\xi$��$\eta$
���������m�����z�����Ɖ��肷��. ������,
$\xi=\eta$�ł��邩�Ƃ����^�₪�N����. ��ʂ�, ����͐��藧���Ȃ�. 
$\Omega=\{\omega_1,\omega_2\}$�Ǝ������߂�� 
$$P\{\omega\}=\left\{\begin{array}{cl}
1/2,&\mbox{if }\omega=\omega_1\\
1/2,&\mbox{if }\omega=\omega_2.\end{array}\right.$$
$(\Omega,\mathcal{A},P)$�͊m����ԂɂȂ�. 
�܂�, 2�̊m���ϐ��������Œ�`����.
$$\xi(\omega)=\left\{\begin{array}{cl}
-1,&\mbox{if }\omega=\omega_1\\
1,&\mbox{if }\omega=\omega_2,\end{array}\right.\quad
\eta(\omega)=\left\{\begin{array}{cl}
1,&\mbox{if }\omega=\omega_1\\
-1,&\mbox{if }\omega=\omega_2.\end{array}\right.$$ ���̂Ƃ�,
$\xi$��$\eta$��, �����̂悤�ɓ������m�����z������,
$$\Phi(x)=\left\{\begin{array}{cl}
0,&\mbox{if }x<-1\\[0.1cm]
0.5,&\mbox{if }-1\le x<1\\[0.1cm]
1,&\mbox{if }x\ge 1.
\end{array}\right.$$
������, ��`~\ref{randomdefequal}
�̈Ӗ���$\xi\not=\eta$�ł��邱�Ƃ͖��炩.
\end{exap}
%\newshadetheorem{randomthedis}[randomthe]{�藝}
%\begin{randomthedis}
\begin{thrm}\label{randomthedis}(�m�����z�ł��邽�߂�
�K�v�\������\index
{�Ђ悤���イ�Ԃ񂶂傤����@�K�v�\������!������Ԃ��@--�m�����z}) 
�֐�$\Phi:R\rightarrow [0,1]$
���m�����z�ł��邽�߂̕K�v�\��������,
���ꂪ, �����𖞂�������, �E�A���֐��ł��邱��.
\begin{equation}\label{randomthedis111}
\lim\limits_{x\rightarrow -\infty}\Phi(x)=0;\qquad
\lim\limits_{x\rightarrow+\infty}\Phi(x)=1.
\end{equation}
\end{thrm}
%\end{randomthedis}
\proof �C�ӂ�$x,y\in R(x<y)$�ɑ΂���, 
$$\Phi(y)-\Phi(x)=P\{x<\xi\le y\}\ge 0.$$
�����, �m�����z$\Phi$�͑����֐�. ����,
$\{\varepsilon_i\}$��
$\varepsilon_i\rightarrow 0(i\rightarrow\infty)$
�𖞂��������̐���Ƃ���. ���̂Ƃ�, ������
$i\ge 1$�ɑ΂���, 
$$\Phi(x+\varepsilon_i)-\Phi(x)=P\{x<\xi\le x+\varepsilon_i\}.$$
�m���A�����藝����, �������]��.
$$\lim_{i\rightarrow\infty}\Phi(x+\varepsilon_i)-\Phi(x)=P\{\emptyset\}=0.$$
�����, $\Phi$�͉E�A���֐��ł���. �܂�,
$$\lim_{x\to-\infty}\Phi(x)=\lim_{x\to-\infty}P\{\xi\le 
x\}=P\{\emptyset\}=0,$$
$$\lim_{x\to+\infty}\Phi(x)=\lim_{x\to+\infty}P\{\xi\le 
x\}=P\{\Omega\}=1.$$
�t��, �藝~\ref{fundthefm}����, $R$���
�{�������@�����, �S�Ă�$x\in R$�ɑ΂���, \\
$P\{(-\infty,x]\}=\Phi(x)$�𖞂����m�����x
$P$����ӂɑ��݂���. 
�����, �m�����$(R,\mathcal{A},P)$
����$R$�ւ̊m���ϐ�$\xi(x)=x$
��, �m�����z$\Phi$�������Ƃ͗e�Ղ�
�m���߂���.


\remark �藝~\ref{randomthedis} states that the identity
function is a universal function for any probability distribution
by defining an appropriate probability space. In fact, there is a
universal probability space for any probability distribution by
defining an appropriate function. �Ⴆ��, 
$\Omega=[0,1]$, $\mathcal{A}$��
$\Omega$��̃{�������@��, $P$�����x�[�O���x�Ɖ��肷��. ���̂Ƃ�,
$(\Omega,\mathcal{A},P)$�͊m����ԂɂȂ�. $\Phi$���m�����z�Ȃ��,
\begin{equation}
\xi(\omega)=\sup\left\{x\bigm|\Phi(x)\le\omega\right\}
\end{equation}
�㎮��, �m�����z$\Phi$�����m���ϐ��ł���. �Ȃ��Ȃ��,
�C�ӂ�$y\in R$�ɑ΂���
$$P\{\xi\le y\}
=P\left\{\omega\bigm|\sup\left\{x|\Phi(x)\le\omega\right\}\le
y\right\}
=P\left\{\omega\bigm|\omega\le\Phi(y)\right\}=\Phi(y).$$


\vskip 0.2cm �m�����z�͒P���֐��Ȃ̂�, �m�����z��
�s�A���_�̏W���͉Z�ł���. �����������, �A���ȓ_�̏W����
$R$�ɂ����Ď���Ƃ����f���ł���.

%\newshadetheorem{randomthediscon}[randomthe]{�藝}
%\begin{randomthediscon}
\begin{thrm}\label{randomdiscon}
$\Phi_1$��$\Phi_2$��S�Ă�$x\in D$�ɑ΂���, $\Phi_1(x)=\Phi_2(x)$�ł���
�m�����z�Ƃ���. �A��, $D$��$R$���f���ȏW���Ƃ���. ���̂Ƃ�,
$\Phi_1\equiv\Phi_2$.
\end{thrm}
%\end{randomthediscon}
\proof $D$�͂�����Ƃ����f���Ȃ̂�,
�C�ӂ̓_$x$�ɑ΂���, $x_i\downarrow x(i\rightarrow\infty)$��, 
�S�Ă�$i$�ɑ΂���, $\Phi_1(x_i)=\Phi_2(x_i)$
�𖞂�������$\{x_i\}$��$D$�ɑ��݂���. 
�m�����z�̉E�A��������, $\Phi_1(x)=\Phi_2(x)$���]��.
�藝�͏ؖ����ꂽ.

%\newshadetheorem{randomthedistr1}[randomthe]{�藝}
\begin{thrm}
%\begin{randomthedistr1}
�m�����z$\Phi$�����m���ϐ�$\xi$�� \\
(a) �񕉂ł��邽�߂̕K�v�\��������, �S�Ă�$x<0$�ɑ΂���, $\Phi(x)=0$;\\
(b) ���ł��邽�߂̕K�v�\��������, �S�Ă�$x\le 0$�ɑ΂���, $\Phi(x)=0$;\\
(c) �P���ł��邽�߂̕K�v�\��������, $\Phi$���P���֐��ł��邱��;\\
(d) ���U�^�ł��邽�߂̕K�v�\��������, $\Phi$���K�i�֐��ł��邱��;\\
(e) �A���ł��邽�߂̕K�v�\��������, $\Phi$���A���֐��ł��邱��.
\end{thrm}
%\end{randomthedistr1}
\proof
(a), (b), (c), (d)�͒�`���璼���ɏ]���̂�, (e)���ؖ�����.
$\xi$���A���^�m���ϐ��Ȃ��, $P\{\xi=x\}=0$. �m���A�����藝����
$$\lim_{y\uparrow x}\left(\Phi(x)-\Phi(y)\right)=\lim_{y\uparrow 
x}P\{y<\xi\le x\}
=P\{\xi=x\}=0$$
�㎮��, $\Phi$�̍��A������
�����Ă���. 
�m�����z�͏�ɉE�A���Ȃ̂�, $\Phi$�͘A���ł���. �t��, $\Phi$��
�A���Ȃ��, �e$x\in R$�ɑ΂���, 
$P\{\xi=x\}=0$�ł��邱�Ƃ͒����ɂ킩��. 

%\newtheorem{randomdefdistr2}[randomdef]{��`}
%\begin{randomdefdistr2}]
\begin{defn}\label{:rvsingular}\label{:rvac}
�A���^�m���ϐ���\\
(a) �P�֐�\index{������ւ񂷂�@�m���ϐ�!���񂩂񂷂�@--�P�֐�}�ɂȂ�Ƃ�, 
�m�����z���P�֐��ł��邱��;\\
(b) ��ΘA��\index{������ւ񂷂�@�m���ϐ�!����������񂼂�@--��ΘA��}�ł���Ƃ�, 
�m�����z����ΘA���֐��ł��邱��.
\end{defn}
%\end{randomdefdistr2}

%\newshadetheorem{randomthedecomposition}[randomthe]{�藝}
%\begin{randomthedecomposition}
\begin{thrm}\label{:decompositionrandom}(�m�����z
�̕���藝)\index{�Ԃ񂩂��Ă���@����藝!������Ԃ��@--�m�����z} 
$\Phi$���m�����z�Ƃ���Ƃ�
\begin{equation}\label{randomthedecomposition1}
\Phi(x)=r_1\Phi_1(x)+r_2\Phi_2(x)+r_3\Phi_3(x),\quad x\in R
\end{equation}
�A��, $\Phi_1,\Phi_2,\Phi_3$��,
���ꂼ��, ���U�^�ŒP�֐�
����ΘA���Ȋm���ϐ��̊m�����z,
$r_1,r_2,r_3$��, $r_1+r_2+r_3=1$�ł���񕉂̐��Ƃ���.
�����, ����(\ref{randomthedecomposition1})�͈�ӂł���.
\end{thrm}
%\end{randomthedecomposition}
\proof $\{x_i\}$��$\Phi$��
�s�A���_�̉Z�W���Ƃ�, ���̊֐����`����.
$$f_1(x)=\sum_{x_i\le x}\left(\Phi(x_i)-\lim_{y\uparrow 
x_i}\Phi(y)\right),\quad x\in R.$$
$f_1(x)$��, $x$�Ɋւ��đ���, �E�A���֐��ɂȂ�.
������, 
$$f_2(x)=\Phi(x)-f_1(x),\quad x\in R.$$
���߂��
$$\lim_{z\downarrow x}f_2(z)-f_2(x)=\lim_{z\downarrow 
x}\left(\Phi(z)-\Phi(x)\right)
-\lim_{z\downarrow x}\left(f_1(z)-f_1(x)\right)=0,$$
$$\lim_{z\uparrow x}f_2(z)-f_2(x)=\lim_{z\uparrow 
x}\left(\Phi(z)-\Phi(x)\right)
-\lim_{z\uparrow x}\left(f_1(z)-f_1(x)\right)=0.$$
������.
�܂�, �֐�$f_2(x)$�͘A���ł���. ����, $f_2(x)$
�������֐��ł��邱�Ƃ��ؖ�����. $x'<x$���^����ꂽ�Ƃ�,
$$\sum_{x'<x_i\le x}\left(\Phi(x_i)-\lim_{y\uparrow x_i}\Phi(y)\right)
\le \Phi(x)-\Phi(x').$$
�����,
$$f_2(x)-f_2(x')=\Phi(x)-\Phi(x')-\sum_{x'<x_i\le 
x}\left(\Phi(x_i)-\lim_{y\uparrow x_i}\Phi(y)\right)\ge 0$$
�㎮��, $f_2(x)$��$x$
�̑����֐��ł��邱�Ƃ������Ă���.
�����A���֐�$f_2$�ɂ�,
��ӂȕ���$f_2=g_2+g_3$
�����݂�, �A��,
$g_2$ �͑����P�֐�, 
$g_3$ �͑�����ΘA���֐��ł��邱�Ƃ��ؖ����ꂽ.
�䂦��, $$\Phi(x)=f_1(x)+g_2(x)+g_3(x),\quad\forall x\in R.$$
������, �������߂�.
$$\lim_{x\to\infty}f_1(x)=r_1,\quad \lim_{x\to\infty}g_2(x)=r_2,\quad 
\lim_{x\to\infty}g_3(x)=r_3.$$
$r_1,r_2,r_3$��, $r_1+r_2+r_3=1$
�𖞂����񕉂̐��Ƃ�, �������߂�.
$$\Phi_1(x)=\frac{f_1(x)}{r_1},\quad \Phi_2(x)=\frac{g_2(x)}{r_2},
\quad \Phi_3(x)=\frac{g_3(x)}{r_3},\quad x\in R.$$
$\Phi_1,\Phi_2,\Phi_3$
��, ���ꂼ��, ���U�^��, �P�֐��ł����ΘA���Ȋm���ϐ���
�m�����z�ł���
���Ƃ͗e�ՂɊm���߂���. �䂦��,
(\ref{randomthedecomposition1})���]��. 
�K�i�֐��͈�ӂł���̂�, �������܂���ӂł���.



\subsection*{�m�����x�֐�}

%\newtheorem{randomdefdensity}[randomdef]{��`}
%\begin{randomdefdensity}
\begin{defn}\label{:pdensity}
�m���ϐ�$\xi$�̊m�����x�֐�$\phi$: $R\rightarrow[0,+\infty)$
\index{������݂ǂ��񂷂�@�m�����x�֐�}��,
�S�Ă�$x\in R$�ɑ΂�,
\begin{equation}
\Phi(x)=\displaystyle\int_{-\infty}^{x}\phi(y)\int d y
\end{equation}
�ł���֐�. �A��, $\Phi$�͊m���ϐ�$\xi$�̊m�����z.
\end{defn}
%\end{randomdefdensity}

\begin{exap}
�m�����x�֐��͊m�����z���A����, �قƂ�ǑS�Ă̂Ƃ���Ŕ����\���Ƃ��Ă�
���݂��Ȃ����Ƃ�����. \pageref{:cantorfunction}~�y�[�W
�Œ�`���ꂽ�J���g�[���֐�$f$���v���o����.
�������߂�.
\begin{equation}
\Phi(x)=\left\{\begin{array}{cl}0,&\mbox{if }x<0\\[0.1cm]
f(x),&\mbox{if }0\le x\le 1\\[0.1cm] 1,&\mbox{if }x>1.
\end{array}\right.\end{equation}
$\Phi$��,
$\Phi(x)\rightarrow 0(x\rightarrow-\infty)$��
$\Phi(x)\rightarrow 1(x\rightarrow\infty)$
�𖞂�������, �A���֐��ł���. �䂦�ɏ㎮
�͊m�����z�ł���. 
�܂��قƂ�ǎ���Ƃ���$\Phi'(x)=0$,
����
$$\int_{-\infty}^{+\infty}\Phi'(x)\int d x=0\not=1.$$
�����, �m�����x�֐��͑��݂��Ȃ�.
\end{exap}

\remark
$\phi:R\rightarrow[0,+\infty)$��
$\int_{-\infty}^{+\infty}\phi(x)\int d x=1$�𖞂������֐��Ƃ���. 
���̂Ƃ�, $\phi$�͂���m���ϐ��̊m�����x�֐��ł���. �Ȃ��Ȃ��,
$$\Phi(x)=\int_{-\infty}^x\phi(y)\int d y$$
�㎮��,
(\ref{randomthedis111})�𖞑����鑝��, �A���֐��ł���.


%\newshadetheorem{randomthedis1}[randomthe]{�藝}
\begin{thrm}
%\begin{randomthedis1}
$\xi$�� 
�m�����x�֐�$\phi$�����m���ϐ��Ƃ���.
���̂Ƃ�, �C�ӂ�$R$�̃{�����W��$B$�ɑ΂���
\begin{equation}
P\{\xi\in B\}=\int_B\phi(y)\int d y.
\end{equation}
\end{thrm}
%\end{randomthedis1}
\proof $\mathcal{C}$�������𖞂���
$R$�̂����镔���W��$C$����Ȃ�W�����Ƃ���. 
\begin{equation}
\label{randomii}
P\{\xi\in C\}=\int_C\phi(y)\int d y
\end{equation}
$\mathcal{C}$��
$R$�̂�����{�����W�����܂ނ��Ƃ�����. 
�m���A���藝��(\ref{randomii})����
$\mathcal{C}$�͒P�����ł���. �܂�,
$\mathcal{C}$���S�Ă̋��
$(-\infty,a]$, $(a,b]$, $(b,\infty)$��$\emptyset$
���܂ނ��Ƃ����炩�ł���. �Ȃ��Ȃ��
$$P\{\xi\in(-\infty,a]\}=\Phi(a)=\int_{-\infty}^a\phi(y)\int d y,$$
$$P\{\xi\in(b,+\infty)\}=\Phi(+\infty)-\Phi(b)=\int_b^{+\infty}
\phi(y)\int d y,$$
$$P\{\xi\in(a,b]\}=\Phi(b)-\Phi(a)=\int_a^b\phi(y)\int d y,$$
$$P\{\xi\in\emptyset\}=0=\int_{\emptyset}\phi(y)\int d y$$
�A��, $\Phi$��$\xi$
�̊m�����z. $\mathcal{F}$
��$(-\infty,a]$, $(a,b]$, $(b,\infty)$��$\emptyset$�̑S�Ă�
�݂��ɑf�ȗL���Șa�W�����܂މ��@���Ƃ���. 
���̂Ƃ�,
�C�ӂ�$\mathcal{F}$�݂̌��ɑf�ȏW��
$C_1,C_2,\cdots,C_m$��$C=C_1\cup C_2\cup\cdots\cup C_m$�ɑ΂���,
$$P\{\xi\in C\}=\sum\limits_{j=1}^mP\{\xi\in 
C_j\}=\sum\limits_{j=1}^m\int_{C_j}\phi(y)\int d y
=\int_{C}\phi(y)\int d y.$$ �܂�, $C\in\mathcal{C}$.
�䂦��, $\mathcal{F}\subset\mathcal{C}$. $\mathcal{F}$���܂�
�ŏ���$\sigma$-���@����,
$R$�̃{�������@���Ȃ̂�, 
�P�����藝���,
$\mathcal{C}$��$R$�̑S�Ẵ{�����W�����܂�.


\subsection*{����ȕ��z}

\noindent{\bf ��l���z:}\label{:uniform}
�m���ϐ�$\xi$����l���z\label{:ud}\index
{�����悤�Ԃ��@��l���z}�ɏ]���Ƃ�,
�m�����x�֐��������Œ�`�����ꍇ�ł���.
\begin{equation}
\phi(x)=\left\{\begin{array}{cl}
\displaystyle\frac{1}{b-a}, &\mbox{if }a\le x\le b\\[0.3 cm]
0,&\mbox{otherwise}
\end{array}\right.
\end{equation}
${\cal U}(a,b)$�ƋL����, $a$��$b$��, $a<b$�𖞂�������.

\vskip 0.2cm\noindent {\bf �w�����z:}\label{:exponential}
�m���ϐ�$\xi$���w�����z\index{�������Ԃ��@�w�����z}�ɏ]���Ƃ�,
�m�����x�֐��������Œ�`�����ꍇ�ł���.
\begin{equation}
\phi(x)=\left\{\begin{array}{cl}
\displaystyle\frac{1}{\beta}\exp\left(-\frac{x}{\beta}\right),
&\mbox{if }x\ge 0\\[0.4 cm]
0,&\mbox{if }x<0
\end{array}\right.
\end{equation}
${\cal EXP}(\beta)$�ƋL����, $\beta$�͐���.

\vskip 0.2cm\noindent {\bf ���K���z:}\label{:normal}�m���ϐ�$\xi$��
���K���z\label{:nd}\index{�������Ԃ��@���K���z}�ɏ]���Ƃ�,
�m�����x�֐��������Œ�`�����ꍇ�ł���.
\begin{equation}
\phi(x)=\frac{1}{\sigma\sqrt{2\pi}}\exp
\left(-\frac{(x-\mu)^2}{2\sigma^2}\right),\quad x\in R
\end{equation}
${\cal N}(\mu,\sigma^2)$�ƋL����, $\mu$��$\sigma$�͎���.

\subsection*{�����m�����z}

%\newtheorem{randomdefjoint-dis}[randomdef]{��`}
\begin{defn}
%\begin{randomdefjoint-dis}
�m���x�N�g��$(\xi_1,\xi_2,\cdots,\xi_n)$�̌����m�����z
$\Phi:R^n\rightarrow [0,1]$
��, �����Œ�`�����.
$$\Phi(x_1,x_2,\cdots,x_n)=P\left\{\omega\in\Omega\bigm|\xi_1(\omega)\le 
x_1,\xi_2(\omega)\le x_2,\cdots,
\xi_n(\omega)\le x_n\right\}.$$
\end{defn}
%\end{randomdefjoint-dis}

%\newtheorem{randomdefjoint-den}[randomdef]{��`}
\begin{defn}
%\begin{randomdefjoint-den}
�m���x�N�g��$(\xi_1,\xi_2,\cdots,\xi_n)$��
�����m�����x�֐�$\phi$:
$R^n\rightarrow $\\ $[0,+\infty)$��,
�S�Ă�$(x_1,x_2,\cdots,x_n)\in R^n$�ɑ΂���,
�����𖞂���.
\begin{equation}
\Phi(x_1,x_2,\cdots,x_n)=\displaystyle\int_{-\infty}^{x_1}\int_{-\infty}^{x_2}\cdots
\int_{-\infty}^{x_n}\phi(y_1,y_2,\cdots,y_n)\int d y_1\int d
y_2\cdots\int d y_n
\end{equation}
�A��, $\Phi$��
�m���x�N�g��$(\xi_1,\xi_2,\cdots,\xi_n)$�̊m�����z.
\end{defn}
%\end{randomdefjoint-den}


\subsection*{�Ɨ�}

%\newtheorem{randomdefindependent}[randomdef]{��`}
%\begin{randomdefindependent}
\begin{defn}\label{:irandom}
�m���ϐ�$\xi_1,\xi_2,\cdots,\xi_m$��
�Ɨ�\index{�ǂ����@�Ɨ�!������ւ񂷂�@--�m���ϐ�}�ł���Ƃ�, $R$
�̔C�ӂ̃{�����W��$B_1,B_2,\cdots,B_m$�ɑ΂���,
���������藧���Ƃł���.
\begin{equation}\label{randomindedef}
P\left\{\bigcap_{i=1}^{m}\{\xi_i\in
B_i\}\right\}=\prod\limits_{i=1}^{m}P\{\xi_i\in B_i\}
\end{equation}
%\end{randomdefindependent}
\end{defn}

%\newshadetheorem{randomtheindependentfun}[randomthe]{�藝}
%\begin{randomtheindependentfun}
\begin{thrm}
$\xi_1,\xi_2,\cdots,\xi_m$��Ɨ��Ȋm���ϐ�,
$i=1,2,\cdots, m$�ɑ΂���, $f_i:R\rightarrow R$�����֐��Ƃ���.
���̂Ƃ�, �m���ϐ�
$f_1(\xi_1),f_2(\xi_2),\cdots,f_m(\xi_m)$�͓Ɨ��ł���.
\end{thrm}
%\end{randomtheindependentfun}
\proof $R$�̔C�ӂ̃{�����W��$B_1,B_2,\cdots,B_m$�ɑ΂���
$$\begin{array}{l}\displaystyle P\left\{\bigcap_{i=1}^{m}\{f_i(\xi_i)\in 
B_i\}\right\}
=P\left\{\bigcap_{i=1}^{m}\{\xi_i\in f_i^{-1}(B_i)\}\right\}\\[0.6cm]
=\displaystyle\prod_{i=1}^{m}P\{\xi_i\in f_i^{-1}(B_i)\}
=\prod_{i=1}^{m}P\{f_i(\xi_i)\in B_i\}.\end{array}$$ 
�����,
$f_1(\xi_1),f_2(\xi_2),\cdots,f_m(\xi_m)$
�͓Ɨ��Ȋm���ϐ�. 


%\newshadetheorem{randomtheindependent}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheindependent}
$\xi_i$�����ꂼ��, �m�����z
$\Phi_i$, $i=1,2,\cdots,m$�����m���ϐ�, $\Phi$
���m���x�N�g��
$(\xi_1,\xi_2,\cdots,\xi_m)$�̊m�����z�Ƃ���. 
���̂Ƃ�, $\xi_1,\xi_2,\cdots,\xi_m$���Ɨ�
�ł��邽�߂̕K�v�\��������,
�S�Ă� $(x_1,x_2,\cdots,x_m)\in R^m$�ɑ΂���,
���������藧����.
\begin{equation}\label{independentbydistribution}
\Phi(x_1,x_2,\cdots,x_m)=\Phi_1(x_1)\Phi_2(x_2)\cdots\Phi_m(x_m).
\end{equation}
\end{thrm}
%\end{randomtheindependent}
\proof $\xi_1,\xi_2,\cdots,\xi_m$��
�Ɨ��Ȋm���ϐ��Ȃ��,
�S�Ă�$(x_1,x_2,\cdots,x_m)\in R^m$�ɑ΂���
$$\begin{array}{rl}
\Phi(x_1,x_2,\cdots,x_m)\!\!\!\!&=P\{\xi_1\le x_1,\xi_2\le  
x_2,\cdots,\xi_m\le x_m\}\\[0.1cm]
&=P\{\xi_1\le x_1\} P\{\xi_2\le x_2\}\cdots P\{\xi_m\le x_m\}\\[0.1cm]
&=\Phi_1(x_1)\Phi_2(x_2)\cdots\Phi_m(x_m)
\end{array}$$

�t��, (\ref{independentbydistribution})
�����藧�Ɖ��肷��. $x_2,x_3,\cdots,x_m$
���Œ肳�ꂽ����, $\mathcal{C}$
��$R$ �̂����镔���W��$C$����Ȃ�
�����𖞂����W�����Ƃ���. 
\begin{equation}
\label{ri}
P\{\xi_1\in C,\xi_2\le x_2,\cdots,\xi_m\le x_m\}=
P\{\xi_1\in C\}\prod\limits_{i=2}^m P\{\xi_i\le x_i\}
\end{equation}
$\mathcal{C}$��
$R$�̂�����{�����W�����܂ނ��Ƃ�����.
�m���A���藝��(\ref{ri})����
$\mathcal{C}$�͒P�����ł���.
�܂�,
$\mathcal{C}$���S�Ă̋��
$(-\infty,a]$, $(a,b]$, $(b,\infty)$��$\emptyset$
���܂ނ��Ƃ����炩�ł���. 
$\mathcal{F}$��$(-\infty,a]$, $(a,b]$, $(b,\infty)$��$\emptyset$
�̑S�Ă�
�݂��ɑf�ȗL���Șa�W�����܂މ��@���Ƃ���.
�C�ӂ�$\mathcal{F}$�݂̌��ɑf�ȏW��
$C_1,C_2,\cdots,C_m$��$C=C_1\cup C_2\cup\cdots\cup C_m$�ɑ΂���,
$$\begin{array}{rl}
&P\{\xi_1\in C,\xi_2\le x_2,\cdots,\xi_m\le x_m\}\\[0.15cm]
=\!\!\!\!&\sum\limits_{j=1}^m P\{\xi_1\in C_j,\xi_2\le 
x_2,\cdots,\xi_m\le x_m\}\\[0.3cm]
=\!\!\!\!&P\{\xi_1\in C\} P\{\xi_2\le x_2\}\cdots P\{\xi_m\le x_m\}.
\end{array}$$
�܂�, $C\in \mathcal{C}$.
�䂦��, $\mathcal{F}\subset\mathcal{C}$. $\mathcal{F}$���܂�
�ŏ���$\sigma$-���@����,
$R$�̃{�������@���Ȃ̂�, 
�P�����藝���,
$\mathcal{C}$��$R$�̑S�Ẵ{�����W�����܂�.

�e$\xi_i$�ɑ΂���,
���ɓ��l�̋c�_���s����,
�m���ϐ����Ɨ��ł��邱�Ƃ��킩��. 

%\newshadetheorem{randomtheindependentd}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheindependentd}
$\xi_i$�����ꂼ��, �m�����x�֐�
$\phi_i$, $i=1,2,\cdots,m$�����m���ϐ�, $\phi$
���m���x�N�g��
$(\xi_1,\xi_2,\cdots,\xi_m)$�̊m�����x�֐��Ƃ���Ƃ�,
$\xi_1,\xi_2,\cdots,\xi_m$ 
���Ɨ��ł��邽�߂̕K�v�\��������,
�قƂ�ǑS�Ă� $(x_1,x_2,\cdots,x_m)\in R^m$�ɑ΂���
���������藧���Ƃł���.
\begin{equation}
\phi(x_1,x_2,\cdots,x_m)=\phi_1(x_1)\phi_2(x_2)\cdots\phi_m(x_m).
\end{equation}
\end{thrm}
%\end{randomtheindependentd}
\proof ����, �قƂ�ǂ�����Ƃ����, 
$\phi(x_1,x_2,\cdots,x_m)=\phi_1(x_1)\phi_2(x_2)\cdots$\\$\phi_m(x_m)$
�Ȃ��,
�S�Ă�$(x_1,x_2,\cdots,x_m)\in R^m$�ɑ΂���,
$$\begin{array}{rl}\Phi(x_1,x_2,\cdots,x_m)\!\!\!&=\displaystyle\int_
{-\infty}^{x_1}\int_{-\infty}^{x_2}\cdots
\int_{-\infty}^{x_m}\phi(t_1,t_2,\cdots,t_m)\int d t_1\int d 
t_2\cdots\int d t_m\\[0.4cm]
&=\displaystyle\int_{-\infty}^{x_1}\int_{-\infty}^{x_2}\cdots
\int_{-\infty}^{x_m}\phi_1(t_1)\phi_2(t_2)\cdots\phi_m(t_m)\int d 
t_1\int d t_2\cdots\int d t_m\\[0.4cm]
&=\displaystyle\int_{-\infty}^{x_1}\phi_1(t_1)\int d 
t_1\int_{-\infty}^{x_2}\phi_2(t_2)\int d t_2
\cdots\int_{-\infty}^{x_m}\phi_m(t_m)\int d t_m\\[0.4cm]
&=\Phi_1(x_1)\Phi_2(x_2)\cdots\Phi_m(x_m)\end{array}.$$
�����, $\xi_1,\xi_2,\cdots,\xi_m$�͓Ɨ��ł���.
�t��, $\xi_1,\xi_2,\cdots,\xi_m$��
�Ɨ��Ȃ��, �C�ӂ�$(x_1,x_2,\cdots,x_m)\in R^m$�ɑ΂���
$$\begin{array}{rl}\Phi(x_1,x_2,\cdots,x_m)\!\!\!&=\Phi_1(x_1)\Phi_2(x_2)\c
dots\Phi_m(x_m)\\[0.3cm]
&=\displaystyle\int_{-\infty}^{x_1}\int_{-\infty}^{x_2}\cdots\int_{-\infty}
^{x_m}\phi_1(t_1)\phi_2(t_2)
\cdots\phi_m(t_m)\int d t_1\int d t_2\cdots\int d t_m\end{array}$$
�㎮��,
�قƂ�ǂ�����Ƃ����, 
$\phi(x_1,x_2,\cdots,x_m)=\phi_1(x_1)\phi_2(x_2)\cdots\phi_m(x_m)$
�����藧���Ƃ������Ă���.

\subsection*{���ꕪ�z}

%\newtheorem{randomdefid}[randomdef]{��`}
%\begin{randomdefid}
\begin{defn}\label{:idrandom}
�m���ϐ�$\xi$��$\eta$�����ꕪ�z\index
{�ǂ����Ԃ��@���ꕪ�z!������ւ񂷂�@--�m���ϐ�}�ł���Ƃ�,
�C�ӂ�$R$�̃{�����W��$B$�ɑ΂���
\begin{equation}
P\{\xi\in B\} = P\{\xi\in B\}
\end{equation}
%\end{randomdefid}
\end{defn}

%\newshadetheorem{randomtheid}[randomthe]{�藝}
%\begin{randomtheid}
\begin{thrm}\label{randomtheid}
�m���ϐ�$\xi$��$\eta$
�����ꕪ�z�ɏ]�����߂̕K�v�\��������,
�������m�����x�֐���������.
\end{thrm}
%\end{randomtheid}
\proof $\Phi$��$\Psi$��
���ꂼ��, $\xi$��$\eta$
�̊m�����z�Ƃ���. $\xi$��$\eta$
�����ꕪ�z�̊m���ϐ��Ȃ��, �C�ӂ�$x\in R$�ɑ΂���,
$$\Phi(x)=P\{\xi\in(-\infty,x]\}=P\{\eta\in(-\infty,x]\}=\Psi(x).$$
�䂦��, $\xi$��$\eta$��, �������m�����z������.

�t��, $\xi$��$\eta$��
�������m�����z�ɏ]���Ɖ��肷��. 
$\mathcal{C}$�������𖞂���
$R$�̂����镔���W��$C$����Ȃ�W�����Ƃ���. 
\begin{equation}
\label{rii}
P\{\xi\in C\}=P\{\eta\in C\}
\end{equation}
$\mathcal{C}$��$R$�̂�����{�����W�����܂ނ��Ƃ�����.
�m���A���藝��(\ref{rii})����
$\mathcal{C}$�͒P�����ł���.
�܂�, $\xi$, $\eta$���������m�����z�������Ƃ���,
$\mathcal{C}$���S�Ă̋��
$(-\infty,a]$, $(a,b]$, $(b,\infty)$��$\emptyset$
���܂ނ��Ƃ����炩�ł���. $\mathcal{F}$
��$(-\infty,a]$, $(a,b]$, $(b,\infty)$��$\emptyset$�̑S�Ă�
�݂��ɑf�ȗL���Șa�W�����܂މ��@���Ƃ���.
�C�ӂ�$\mathcal{F}$�݂̌��ɑf�ȏW��
$C_1,C_2,\cdots,C_m$��$C=C_1\cup C_2\cup\cdots\cup C_m$�ɑ΂���,
$$P\{\xi\in C\}=\sum\limits_{j=1}^k P\{\xi\in 
C_j\}=\sum\limits_{j=1}^k P\{\eta\in C_j\}
= P\{\eta\in C\}.$$ �܂�, $C\in\mathcal{C}$.
�����, 
$\mathcal{F}\subset\mathcal{C}$. 
$\mathcal{F}$���܂ލŏ���$\sigma$-���@����, $R$��
�{�����W���Ȃ̂�, �P�����藝���$\mathcal{C}$
��, $R$�̑S�Ẵ{�����W�����܂�ł���.

%\newshadetheorem{randomtheid1}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheid1}
$\xi$��$\eta$���m�����x�֐���
���݂���2�̊m���ϐ��Ƃ���. 
���̂Ƃ�, $\xi$��$\eta$��
���ꕪ�z�ɏ]�����߂̕K�v�\��������,
�m�����x�֐������������Ƃł���.
\end{thrm}
%\end{randomtheid1}
\proof �藝 \ref{randomtheid}
����, �m���ϐ�$\xi$��$\eta$�����ꕪ�z�ɏ]�����߂�
�K�v�\��������, �������m�����z������, �������m�����x�֐�
�������Ƃł���. 



\subsection*{���Ғl}
\label{:evrv}

%\newtheorem{randomdefexpected}[randomdef]{��`}
%\begin{randomdefexpected}
\begin{defn}\label{expected-value}
$\xi$���m���ϐ��Ƃ���Ƃ�, $\xi$
�̊��Ғl\index
{��������@���Ғl!������ւ񂷂�@--�m���ϐ�}�͎����Œ�`�����.
\begin{equation}
E[\xi]=\displaystyle\int_0^{+\infty}P\{\xi\ge r\}\int d
r-\int_{-\infty}^0 P\{\xi\le r\}\int d r
\end{equation}
�A��, 2�̐ϕ��̓�, ���Ȃ��Ƃ�1�͗L���Ƃ���.
\end{defn}
%\end{randomdefexpected}

\begin{exap} $\xi$�����ꂼ��,
�m��$p_i$, $i=1,2,\cdots,m$
��, �l$a_i$���Ƃ闣�U�^�m���ϐ��Ɖ��肷��. ���Ғl��p�f�̒�`����
�������]��.
$$E[\xi]=\sum_{i=1}^ma_ip_i.$$
\end{exap}

\begin{exap} $\xi$����l���z 
${\cal U}(a,b)$�ɏ]���m���ϐ��Ƃ���. ���̂Ƃ�,
���Ғl��, $E[\xi]=(a+b)/2$.
\end{exap}

\begin{exap} $\xi$���w�����z
${\cal EXP}(\beta)$�ɏ]���m���ϐ��Ƃ���.
���̂Ƃ�, ���Ғl��$\beta$.
\end{exap}

\begin{exap} $\xi$�𐳋K���z
${\cal N}(\mu,\sigma^2)$�ɏ]���m���ϐ��Ƃ���. 
���̂Ƃ�, ���Ғl��$\mu$.
\end{exap}



%\newshadetheorem{randomtheexpect}[randomthe]{�藝}
%\begin{randomtheexpect}
\begin{thrm}\label{simutheorem}
$\xi$���m�����x�֐�$\phi$
�����݂���m���ϐ��Ƃ���.
����, ���̃��x�[�O�ϕ����L���ł���Ȃ��
$$\displaystyle\int_{-\infty}^{+\infty}x\phi(x)\int d x$$
����������.
\begin{equation}
E[\xi]=\displaystyle\int_{-\infty}^{+\infty}x\phi(x)\int d x.
\end{equation}
\end{thrm}
%\end{randomtheexpect}
\proof ��` \ref{expected-value}�ƃt�r�j��
�藝����
$$\begin{array}{rl}
E[\xi]\!\!\!&=\displaystyle\int_0^{+\infty}P\{\xi\ge r\}\int d 
r-\int_{-\infty}^0 P\{\xi\le r\}\int d r\\[0.5cm]
&=\displaystyle\int_0^{+\infty}\left[\int_r^{+\infty}\phi(x)\int d
x\right]\int d r
      -\int_{-\infty}^0\left[\int_{-\infty}^r\phi(x)\int d x\right]
\int d r\\[0.5cm]
&=\displaystyle\int_0^{+\infty}\left[\int_0^x\phi(x)\int d
r\right]\int d x
     -\int_{-\infty}^0\left[\int_x^0\phi(x)\int d r\right]\int d x\\[0.5cm]
&=\displaystyle\int_0^{+\infty} x\phi(x)\int d x+\int_{-\infty}^0 
x\phi(x)\int d x\\[0.5cm]
&=\displaystyle\int_{-\infty}^{+\infty}x\phi(x)\int d x.
\end{array}$$
�藝�͏ؖ����ꂽ.


%\newshadetheorem{randomtheexpectdis}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheexpectdis}
$\xi$���m�����z$\Phi$
�ɏ]���m���ϐ��Ƃ���.
����,
���̃��x�[�O-�X�e�B���`�F�X�ϕ����L���Ȃ��
$$\displaystyle\int_{-\infty}^{+\infty}x\int d \Phi(x)$$
����������.
\begin{equation}\label{randomtheexpectdis11}
E[\xi]=\displaystyle\int_{-\infty}^{+\infty}x\int d \Phi(x).
\end{equation}
\end{thrm}
%\end{randomtheexpectdis}
\proof ���x�[�O-�X�e�B���`�F�X�ϕ�
$\int_{-\infty}^{+\infty}x\int d \Phi(x)$���L���Ȃ̂�,
�����Ɏ���2�������藧��
$$\lim_{y\rightarrow+\infty}\int_0^yx\int d 
\Phi(x)=\int_0^{+\infty}x\int d \Phi(x),\quad
\lim_{y\rightarrow-\infty}\int_y^0 x\int d \Phi(x)=\int_{-\infty}^0
 x\int d \Phi(x)$$
$$\lim_{y\rightarrow+\infty}\int_y^{+\infty}x\int d \Phi(x)=0,\quad
\lim_{y\rightarrow-\infty}\int_{-\infty}^y x\int d \Phi(x)=0.$$
�܂�, ����2������
$$\int_y^{+\infty}x\int d \Phi(x)\ge 
y\left(\lim_{z\rightarrow+\infty}\Phi(z)-\Phi(y)\right)
=y(1-\Phi(y))\ge 0,\quad\mbox{if }y>0,$$
$$\int_{-\infty}^yx\int d \Phi(x)\le 
y\left(\Phi(y)-\lim_{z\rightarrow-\infty}\Phi(z)\right)
=y\Phi(y)\le 0,\quad\mbox{if }y<0$$
�������]��.
$$\lim_{y\rightarrow+\infty}y\left(1-\Phi(y)\right)=0,\quad 
\lim_{y\rightarrow-\infty}y\Phi(y)=0.$$
$0=x_0<x_1<x_2<\cdots<x_n=y$��
$[0,y]$�̕����Ƃ���. ���̂Ƃ�
$$\sum_{i=0}^{n-1}x_i\left(\Phi(x_{i+1})-\Phi(x_i)\right)\rightarrow\int_0^
yx\int d \Phi(x)$$
$$\sum_{i=0}^{n-1}(1-\Phi(x_{i+1}))(x_{i+1}-x_i)\rightarrow
\displaystyle\int_0^y P\{\xi\ge r\}\int d r$$
�A��, $\max\{|x_{i+1}-x_i|:i=0,1,\cdots,n-1\}\rightarrow 0$.
�܂�, $y\rightarrow+\infty$�̂Ƃ�
$$\sum_{i=0}^{n-1}x_i\left(\Phi(x_{i+1})-\Phi(x_i)\right)-\sum_{i=0}^{n-1}(
1-\Phi(x_{i+1}))(x_{i+1}-x_i)
=y(\Phi(y)-1)\rightarrow 0 .$$
���̂��Ƃ���,
$$\int_0^{+\infty}P\{\xi\ge r\}\int d r=\int_0^{+\infty}x\int d\Phi(x).$$
���l�ɂ���, �������ؖ��ł���.
$$-\int_{-\infty}^0P\{\xi\le r\}\int d r=\int_{-\infty}^0x\int d\Phi(x).$$
�����, ���2�̕s�����ɂ��,
(\ref{randomtheexpectdis11})�� 
�m���߂�ꂽ.

\subsection*{���Ғl��p�f�̐��`��}

%\newshadetheorem{randomthelinear1}[randomthe]{�藝}
\begin{thrm}
%\begin{randomthelinear1}
\label{randomthelinear} $\xi$��$\eta$��
�L���Ȋ��Ғl�����m���ϐ��Ƃ���.
���̂Ƃ�, �C�ӂ̐�$a$��$b$
�ɑ΂���, ���������藧��.
\begin{equation}
E[a\xi+b\eta]=a E[\xi]+b E[\eta].
\end{equation}
\end{thrm}
%\end{randomthelinear1}
\proof {\sc Step 1:} �܂�, �C�ӂ̐�$b$�ɑ΂���,
$E[\xi+b]=E[\xi]+b$���ؖ�����. 
$b\ge 0$�̂Ƃ�, 
$$\begin{array}{rl}
E[\xi+b]\!\!\!\!&=\displaystyle\int_0^{\infty}P\{\xi+b\ge r\}\int d r
    -\int_{-\infty}^0 P\{\xi+b\le r\}\int d r\\[0.4cm]
&=\displaystyle\int_0^{\infty}P\{\xi\ge r-b\}\int d r
    -\int_{-\infty}^0 P\{\xi\le r-b\}\int d r\\[0.4cm]
&=E[\xi]+\displaystyle\int_0^b\left(P\{\xi\ge r-b\}+
    P\{\xi<r-b\}\right)\int d r\\[0.4cm]
&=E[\xi]+b.
\end{array}$$
$b<0$�Ȃ��,
$$E[\xi+b]=E[\xi]-\displaystyle\int_b^0\left(P\{\xi\ge 
r-b\}+P\{\xi<r-b\}\right)\int d r=E[\xi]+b.$$

\vskip 0.2cm {\sc Step 2:} �C�ӂ̐�$a$�ɑ΂���,
$E[a\xi]=aE[\xi]$���ؖ�����. 
$a=0$�Ȃ��, ����$E[a\xi]=aE[\xi]$
�̐����͊ȒP�ɂ킩��. $a>0$�Ȃ��, 
$$\begin{array}{rl}
E[a\xi]\!\!\!\!&=\displaystyle\int_0^{\infty}P\{a\xi\ge r\}\int d r
    -\int_{-\infty}^0 P\{a\xi\le r\}\int d r\\[0.4cm]
&=\displaystyle\int_0^{\infty} P\left\{\xi\ge \frac{r}{a}\right\}\int d r
    -\int_{-\infty}^0 P\left\{\xi\le\frac{r}{a}\right\}\int d r\\[0.4cm]
&=a\displaystyle\int_0^{\infty}P\left\{\xi\ge\frac{r}{a}\right\}
\int d\!\left(\frac{r}{a}\right)
    
-a\int_{-\infty}^0 P\left\{\xi\le\frac{r}{a}\right\}\int d\!\left(\frac{r}{
a}\right)\\[0.4cm]
&=a E[\xi].
\end{array}$$
$a<0$�Ȃ��, 
$$\begin{array}{rl}
E[a\xi]\!\!\!\!&=\displaystyle\int_0^{\infty} P\{a\xi\ge r\}\int d
r-\int_{-\infty}^0 P\{a\xi\le r\}\int d r\\[0.4cm]
&=\displaystyle\int_0^{\infty} P\left\{\xi\le
\frac{r}{a}\right\}\int d r
    -\int_{-\infty}^0 P\left\{\xi\ge\frac{r}{a}\right\}\int d r\\[0.4cm]
&=a\displaystyle\int_0^{\infty} 
P\left\{\xi\ge\frac{r}{a}\right\}\int d\!\left(\frac{r}{a}\right)
    
-a\int_{-\infty}^0 P\left\{\xi\le\frac{r}{a}\right\}\int d\!\left(\frac{r}{
a}\right)\\[0.4cm]
&=a E[\xi].
\end{array}$$

\vskip 0.2cm{\sc Step 3:} $\xi$��$\eta$�����ꂼ��,
$a_1,a_2,\cdots,a_m$, $b_1,b_2,\cdots,b_n$
�̒l���Ƃ�񕉂̒P���m���ϐ��̂Ƃ�,
$E[\xi+\eta]=E[\xi]+E[\eta]$ �ł��邱��
���ؖ�����. ���̂Ƃ�
$\xi+\eta$���܂�, �l$a_i+b_j$, $i=1,2,\cdots,m$, $j=1,2,\cdots,n$
���Ƃ�񕉂̒P���m���ϐ��ł���. �䂦��,
$$\begin{array}{rl}E[\xi+\eta]\!\!\!\!
&=\sum\limits_{i=1}^m\sum\limits_{j=1}^n(a_i+b_j)P\{\xi=a_i,\eta=b_j\}\\
[0.4 cm]
&=\sum\limits_{i=1}^m\sum\limits_{j=1}^n a_i P\{\xi=a_i,\eta=b_j\}
  
+\sum\limits_{i=1}^m\sum\limits_{j=1}^n b_j P\{\xi=a_i,\eta=b_j\}\\[0.4cm]
&=\sum\limits_{i=1}^ma_i P\{\xi=a_i\}+\sum\limits_{j=1}^n b_j
P\{\eta=b_j\}\\[0.4cm]
&=E[\xi]+E[\eta].
\end{array}$$

\vskip 0.2cm {\sc Step 4:} $\xi$��$\eta$
�������Ƃ��񕉂̊m���ϐ��ł���Ƃ�,
$E[\xi+\eta]=E[\xi]+E[\eta]$�ł��邱�Ƃ��ؖ�����.  
�S�Ă�$i\ge 1$��, �S�Ă�
$\omega\in\Omega$�ɑ΂���,�������`����.
$$\xi_i(\omega)=\left\{\begin{array}{cl}
\displaystyle\frac{k-1}{2^i},&\mbox{if 
}\displaystyle\frac{k-1}{2^i}\le\xi(\omega)
<\displaystyle\frac{k}{2^i},\,k=1,2,\cdots,i 2^i\\[0.4cm]
i,&\mbox{if }i\le\xi(\omega),
\end{array}\right.$$
$$\eta_i(\omega)=\left\{\begin{array}{cl}
\displaystyle\frac{k-1}{2^i},&\mbox{if 
}\displaystyle\frac{k-1}{2^i}\le\eta(\omega)
<\displaystyle\frac{k}{2^i},\,k=1,2,\cdots,i 2^i\\[0.4cm]
i,&\mbox{if }i\le\eta(\omega).
\end{array}\right.$$
���̂Ƃ�, $\{\xi_i\}$, $\{\eta_i\}$, $\{\xi_i+\eta_i\}$
��,
$\xi_i\uparrow\xi$, $\eta_i\uparrow\eta$, $\xi_i+\eta_i\uparrow\xi+\eta$
$(i\rightarrow\infty)$
�𖞂���$3$�̔񕉂̒P���m���ϐ���ł���.
�܂�, 
$P\{\xi_i>r\}$, $P\{\eta_i>r\}$, $P\{\xi_i+\eta_i>r\}$, $i=1,2,\cdots$
���܂��P���֐��ł���. 
�藝~\ref{randomtheuparrow}����,
$i\rightarrow\infty$�̂Ƃ�
$$P\{\xi_i>r\}\uparrow P\{\xi>r\},\,\forall r\ge 0$$
���Ғl$E[\xi]$�����݂��邱�Ƃ���,
$i\rightarrow\infty$�Ƃ����
$$E[\xi_i]=\int_0^{+\infty} P\{\xi_i>r\}\int d r\rightarrow
\int_0^{+\infty} P\{\xi>r\}\int d r=E[\xi]$$ 
���l�ɂ���,
$E[\eta_i]\rightarrow E[\eta]$, $E[\xi_i+\eta_i]\rightarrow
E[\xi+\eta](i\rightarrow\infty)$
���ؖ��ł���. Step~3���,
$E[\xi+\eta]=E[\xi]+E[\eta]$��������.

\vskip 0.2cm {\sc Step 5:}
$\xi$��$\eta$ 
���C�ӂ̊m���ϐ��̂Ƃ�, $E[\xi+\eta]=E[\xi]+E[\eta]$
�ł��邱�Ƃ��ؖ�����. �������`����.
$$\xi_i(\omega)=\left\{\begin{array}{cl}
\xi(\omega),&\mbox{if }\xi(\omega)\ge -i\\[0.1cm]
-i,&\mbox{otherwise,}\end{array}\right.\quad
\eta_i(\omega)=\left\{\begin{array}{cl}
\eta(\omega),&\mbox{if }\eta(\omega)\ge -i\\[0.1cm]
-i,&\mbox{otherwise}.\end{array}\right.$$
���Ғl$E[\xi]$��$E[\eta]$
�͗L���Ȃ̂�,
$$\lim_{i\rightarrow\infty}E[\xi_i]=E[\xi],\quad 
\lim_{i\rightarrow\infty}E[\eta_i]=E[\eta],\quad
\lim_{i\rightarrow\infty}E[\xi_i+\eta_i]=E[\xi+\eta].$$
$(\xi_i+i)$��$(\eta_i+i)$��, �񕉂̊m���ϐ�
�ł��邱�Ƃɒ��ӂ���. 
Steps~1��4���� 
$$\begin{array}{rl}E[\xi+\eta]\!\!\!\!
&=\lim\limits_{i\rightarrow\infty}E[\xi_i+\eta_i]\\[0.2cm]
&=\lim\limits_{i\rightarrow\infty}\left(E[(\xi_i+i)+(\eta_i+i)]-2
i\right)\\[0.2cm]
&=\lim\limits_{i\rightarrow\infty}\left(E[\xi_i+i]+E[\eta_i+i]-2i
\right)\\[0.2cm]
&=\lim\limits_{i\rightarrow\infty}\left(E[\xi_i]+i+E[\eta_i]+i-2i
\right)\\[0.2cm]
&=\lim\limits_{i\rightarrow\infty}E[\xi_i]+\lim\limits_{i\rightarrow\infty}
E[\eta_i]\\[0.2cm]
&=E[\xi]+E[\eta].
\end{array}$$

\vskip 0.2cm {\sc Step 6:} ���`�� $
E[a\xi+b\eta]=aE[\xi]+bE[\eta]$��, Steps~2,
5���璼���ɏ]��. �藝�͏ؖ����ꂽ.

\subsection{�Ɨ��Ȋm���ϐ��̐�}

%\newshadetheorem{randomtheindependente}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheindependente}
$\xi$��$\eta$��L���Ȋ��Ғl
�����Ɨ��Ȋm���ϐ��Ƃ���.
���̂Ƃ�, $\xi\eta$�̊��Ғl�͑��݂�,
���������藧��.
\begin{equation}
E[\xi\eta]=E[\xi]E[\eta].
\end{equation}
\end{thrm}
%\end{randomtheindependente}
\proof {\sc Step 1:}�܂�,
$\xi$��$\eta$
��,���ꂼ��$a_1,a_2,\cdots,a_m$��$b_1,b_2,\cdots,b_n$
�̒l���Ƃ�񕉂̒P���m���ϐ��̏ꍇ���ؖ�����.
���̏ꍇ, $\xi\eta$���܂�,
$a_ib_j$, $i=1,2,\cdots,m$, $j=1,2,\cdots,n$
�ɒl���Ƃ�񕉂̒P���m���ϐ��ɂȂ�.
$\xi$��$\eta$�̓Ɨ�������
$$\begin{array}{rl}E[\xi\eta]\!\!\!\!
&=\sum\limits_{i=1}^m\sum\limits_{j=1}^n 
a_i b_j P\{\xi=a_i,\eta=b_j\}\\[0.4cm]
&=\sum\limits_{i=1}^m\sum\limits_{j=1}^n a_i b_j P\{\xi=a_i\}
P\{\eta=b_j\}\\[0.4cm]
&=\left(\sum\limits_{i=1}^ma_i 
P\{\xi=a_i\}\right)\left(\sum\limits_{j=1}^n 
b_j P\{\eta=b_j\}\right)\\[0.4cm]
&=E[\xi]E[\eta].
\end{array}$$

{\sc Step 2:} ����, $\xi$��$\eta$
���񕉂̊m���ϐ��ł���ꍇ���ؖ�����. 
������$i\ge 1$��$\omega\in\Omega$
�ɑ΂���, �������`����.
$$\xi_i(\omega)=\left\{\begin{array}{cl}
\displaystyle\frac{k-1}{2^i},&\mbox{if }
\displaystyle\frac{k-1}{2^i}\le\xi(\omega)
<\displaystyle\frac{k}{2^i},\,k=1,2,\cdots,i 2^i\\[0.4cm]
i,&\mbox{if }i\le\xi(\omega),
\end{array}\right.$$
$$\eta_i(\omega)=\left\{\begin{array}{cl}
\displaystyle\frac{k-1}{2^i},&\mbox{if } 
\displaystyle\frac{k-1}{2^i}\le\eta(\omega)
<\displaystyle\frac{k}{2^i},\,k=1,2,\cdots,i 2^i\\[0.4cm]
i,&\mbox{if }i\le\eta(\omega).
\end{array}\right.$$
�����,
$\{\xi_i\}$, $\{\eta_i\}$, $\{\xi_i\eta_i\}$��,
$\xi_i\uparrow\xi$, $\eta_i\uparrow\eta$,
$\xi_i\eta_i\uparrow\xi\eta(i\rightarrow\infty)$
�𖞂���$3$�̔񕉂̒P���m���ϐ���.
$\xi$��$\eta$
�̓Ɨ������, $\xi_i$��$\eta_i$ 
�͓Ɨ��ł���. �]����,
$E[\xi_i\eta_i]=E[\xi_i]E[\eta_i]$ $i=1,2,\cdots$
������.
�藝~\ref{randomtheuparrow}����, 
$P\{\xi_i>r\},i=1,2,\cdots$��
$i\rightarrow\infty$�̂Ƃ�,
�����𖞂����P���֐��ł���. 
$$P\{\xi_i>r\}\uparrow P\{\xi>r\},\,\mbox{ for all }r\ge 0$$
���Ғl$E[\xi]$�����݂��邱�Ƃ���,
$i\rightarrow\infty$�̂Ƃ�
$$E[\xi_i]=\int_0^{+\infty} P\{\xi_i>r\}\int d r\rightarrow
\int_0^{+\infty} P\{\xi>r\}\int d r=E[\xi]$$
���l�ɂ���, 
$E[\eta_i]\rightarrow E[\eta]$, 
$E[\xi_i\eta_i]\rightarrow E[\xi\eta](i\rightarrow\infty)$���ؖ��ł���.
�䂦��, $E[\xi\eta]=E[\xi]E[\eta]$.

{\sc Step 3:} �Ō��, $\xi$��$\eta$��
�C�ӂ̊m���ϐ��Ȃ��, �񕉂̊m���ϐ�$\xi^+$��$\eta^+$
�͓Ɨ�, �܂�, $\xi^+$��$\eta^-$,
$\xi^-$��$\eta^+$, $\xi^-$��$\eta^-$�����ꂼ��
�Ɨ��ɂȂ�. �䂦��,
$$\begin{array}{ll}E[\xi^+\eta^+]=E[\xi^+]E[\eta^+],&E[\xi^+\eta^-]=
E[\xi^+]E[\eta^-],\\[0.2cm]
E[\xi^-\eta^+]=E[\xi^-]E[\eta^+],&E[\xi^-\eta^-]=E[\xi^-]E[\eta^-].
\end{array}$$
�]����, ��������藝�͏ؖ������.
$$\begin{array}{rl}E[\xi\eta]\!\!\!\!
&=E[(\xi^+-\xi^-)(\eta^+-\eta^-)]\\[0.2cm]
&=E[\xi^+\eta^+]-E[\xi^+\eta^-]-E[\xi^-\eta^+]+E[\xi^-\eta^-]\\[0.2cm]
&=E[\xi^+]E[\eta^+]-E[\xi^+]E[\eta^-]-E[\xi^-]E[\eta^+]+E[\xi^-]
E[\eta^-]\\[0.2cm]
&=\left(E[\xi^+]-E[\xi^-]\right)\left(E[\eta^+]-E[\eta^-]\right)\\[0.2cm]
&=E[\xi^+-\xi^-]E[\eta^+-\eta^-]\\[0.2cm]
&=E[\xi]E[\eta]
\end{array}$$

\subsubsection*{�m���ϐ��̊֐��̊��Ғl}

%\newshadetheorem{randomtheexpectdis1}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheexpectdis1}
$\xi$��
�m�����z $\Phi$�ɏ]���m���ϐ�, $f:R\rightarrow R$
�����֐��Ƃ���. ����,
���x�[�O-�X�e�B���`�F�X�ϕ�
$$\displaystyle\int_{-\infty}^{+\infty}f(x)\int d \Phi(x)$$
���L���Ȃ��
\begin{equation}
E[f(\xi)]=\displaystyle\int_{-\infty}^{+\infty}f(x)\int d \Phi(x).
\end{equation}
\end{thrm}
%\end{randomtheexpectdis1}
\proof ���Ғl��p�f�̒�`����,
�������]��.
\begin{equation}
E[f(\xi)]=\displaystyle\int_0^{+\infty} P\{f(\xi)\ge r\}\int d r-\int_{-
\infty}^0 P\{f(\xi)\le r\}\int d r.
\end{equation}
����,$f$���񕉂̒P�����֐�, �܂�,
$$f(x)=\left\{\begin{array}{cl}
a_1,&\mbox{if }x\in B_1\\[0.1cm]
a_2,&\mbox{if }x\in B_2\\
\cdots\\
a_m,&\mbox{if }x\in B_m
\end{array}\right.$$
�Ȃ��($B_1,B_2,\cdots,B_m$�݂͌��ɑf�ȃ{�����W��),
���������藧��.
$$\begin{array}{rl}
E[f(\xi)]\!\!\!\!&=\displaystyle\int_0^{+\infty} P\{f(\xi)\ge r\}\int d 
r=\sum_{i=1}^ma_i P\{\xi\in B_i\}\\[0.4cm]
&=\displaystyle\sum_{i=1}^ma_i\int_{B_i}\int d\Phi(x)=
\int_{-\infty}^{+\infty}f(x)\int d\Phi(x).
\end{array}$$
����, $f$���񕉂̉��֐��ł���ꍇ��
�ؖ�����. 
$f_1,f_2,\cdots$��
$f_i\uparrow f(i\rightarrow\infty)$�𖞂����񕉂̒P���֐���Ƃ���. 
����, �����͏ؖ��ς݂ł���
$$E[f_i(\xi)]=\int_0^{+\infty}P\{f_i(\xi)\ge r\}\int d 
r=\int_{-\infty}^{+\infty}f_i(x)\int d\Phi(x).$$
�藝~\ref{randomtheuparrow}
����, $r\ge 0$�ɑ΂���,
$P\{f_i(\xi)>r\}\uparrow P\{f(\xi)>r\}(i\rightarrow\infty)$��������.
�P�������藝����, �������]��.
$$\begin{array}{rl}
E[f(\xi)]\!\!\!\!&=\displaystyle\int_0^{+\infty} P\{f(\xi)>r\}\int d 
r\\[0.4cm]
&=\displaystyle\lim_{i\rightarrow\infty}\int_0^{+\infty} 
P\{f_i(\xi)>r\}\int d r\\[0.4cm]
&=\displaystyle\lim_{i\rightarrow\infty}\int_{-\infty}^{+\infty}f_i(x)
\int d\Phi(x)\\[0.4cm]
&=\displaystyle\int_{-\infty}^{+\infty}f(x)\int d\Phi(x).
\end{array}$$
�Ō��, $f$���C�ӂ�
���֐��̏ꍇ, $f=f^+-f^-$��,
���������藧��. 
$$\begin{array}{rl}E[f(\xi)]\!\!\!\!&=E[f^+(\xi)-f^-(\xi)]\\[0.2cm]
&=E[f^+(\xi)]-E[f^-(\xi)]\\[0.2cm]
&\displaystyle=\int_{-\infty}^{+\infty}f^+(x)\int d\Phi(x)-
\int_{-\infty}^{+\infty}f^-(x)\int d\Phi(x)\\[0.4cm]
&\displaystyle=\int_{-\infty}^{+\infty}f(x)\int d\Phi(x).
\end{array}$$
�藝�͏ؖ����ꂽ.

\subsubsection*{�m���ϐ��̕ϐ��̘a}

%\newshadetheorem{randomtheff}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheff}
$\{\xi_i\}$��iid��
�m���ϐ�, 
$\eta$�𐔗�$\{\xi_i\}$�ƓƗ��Ȑ��̊m������(�܂�, 
"���̐����l"���Ƃ�m���ϐ�)�Ɖ��肷��.
���̂Ƃ�, ���������藧��.
\begin{equation}
E\left[\sum_{i=1}^{\eta}\xi_i\right]=E[\eta]E[\xi_1].
\end{equation}
\end{thrm}
%\end{randomtheff}
\proof $\eta$��, ����$\{\xi_i\}$
�Ƃ͓Ɨ��Ȃ̂�
$$P\left\{\sum_{i=1}^{\eta}\xi_i\ge 
r\right\}=\sum_{k=1}^{\infty} P\{\eta=k\}
P\left\{\xi_1+\xi_2+\cdots+\xi_k\ge r\right\}.$$
����, $\xi_i$���񕉂̊m���ϐ��Ȃ�� 
$$\begin{array}{rl}
\displaystyle E\left[\sum_{i=1}^{\eta}\xi_i\right]\!\!\!\!
&=\displaystyle\int_{0}^{+\infty}P\left\{\sum_{i=1}^{\eta}\xi_i\ge 
r\right\}\int d r\\[0.5cm]
&=\displaystyle\int_{0}^{+\infty}\sum_{k=1}^{\infty}P\{\eta=k\}P\left\{
\xi_1+\xi_2+\cdots+\xi_k\ge r\right\}\int d r\\[0.5cm]
&=\displaystyle\sum_{k=1}^{\infty}P\{\eta=k\}\int_{0}^{+\infty}P\left\{
\xi_1+\xi_2+\cdots+\xi_k\ge r\right\}\int d r\\[0.5cm]
&=\displaystyle\sum_{k=1}^{\infty}P\{\eta=k\}\left(E[\xi_1]+E[\xi_2]+
\cdots+E[\xi_k]\right)\\[0.5cm]
&=\displaystyle\sum_{k=1}^{\infty}P\{\eta=k\}k 
E[\xi_1]\quad\mbox{(iid�ł��邱�Ƃ���)}\\[0.5cm]
&=\displaystyle E[\eta]E[\xi_1].
\end{array}$$
$\xi_i$���C�ӂ̊m���ϐ��Ȃ��, $\xi_i=\xi_i^+-\xi_i^-$, 
$$\begin{array}{rl}\displaystyle 
E\left[\sum_{i=1}^{\eta}\xi_i\right]\!\!\!\!
&=\displaystyle E\left[\sum_{i=1}^{\eta}(\xi_i^+-\xi_i^-)\right]
=E\left[\sum_{i=1}^{\eta}\xi_i^+-\sum_{i=1}^{\eta}\xi_i^-\right]\\[0.6cm]
&=\displaystyle 
E\left[\sum_{i=1}^{\eta}\xi_i^+\right]-E\left[\sum_{i=1}^{\eta}
\xi_i^-\right]
=\displaystyle E[\eta]E[\xi_1^+]-E[\eta]E[\xi_1^-]\\[0.6cm]
&=\displaystyle 
E[\eta](E[\xi_1^+]-E[\xi_1^-])=E[\eta]E[\xi_1^+-\xi_1^-]=E[\eta]E[\xi_1].
\end{array}$$
�藝�͏ؖ����ꂽ.



\subsection{���U}

%\newtheorem{randomdefvariance}[randomdef]{��`}
%\begin{randomdefvariance}
\begin{defn}\label{:vrandom}
$\xi$��L�����Ғl$e$
�����m���ϐ��Ƃ���. ���̂Ƃ�, $\xi$
�̕��U\index{�Ԃ񂳂�@���U!������ւ񂷂�@--�m���ϐ�}��, 
$V[\xi]=E[(\xi-e)^2]$�Œ�`�����.
%\end{randomdefvariance}
\end{defn}


�m���ϐ��̕��U�͊��Ғl�̂܂��̕��z�̍L�����
���x��^����. �����ȕ��U��, �m���ϐ������Ғl
���ӂɏW�����Ă��邱�Ƃ�����;
�傫�ȕ��U�̏ꍇ,
�m���ϐ������Ғl�̂܂��ɍL������΂��Ă��邱�Ƃ��Ӗ�����.

\begin{exap} $\xi$����l���z
${\cal U}(a,b)$�ɏ]���m���ϐ��Ƃ���.
���̂Ƃ�, ���Ғl��$(a+b)/2$, ���U��$(b-a)^2/12$.
\end{exap}

\begin{exap} $\xi$���w�����z${\cal EXP}(\beta)$�ɏ]���m���ϐ��Ƃ���. 
���̂Ƃ�, ���Ғl��$\beta$, ���U��$\beta^2$.
\end{exap}

\begin{exap} $\xi$�𐳋K���z${\cal N}(\mu,\sigma^2)$�ɏ]���m���ϐ��Ƃ���. 
���̂Ƃ�, ���Ғl��$\mu$, ���U��$\sigma^2$.
\end{exap}

%\newshadetheorem{randomthev}[randomthe]{�藝}
\begin{thrm}
%\begin{randomthev}
$\xi$�𕪎U�����݂���m���ϐ�,
$a$��$b$��
�����Ƃ���Ƃ�,
$V[a\xi+b]=a^2V[\xi]$.
\end{thrm}
%\end{randomthev}
\proof ���U�̒�`����, �������]��.
$$V[a\xi+b]=E\left[(a\xi+b-aE[\xi]-b)^2\right]=a^2E[(\xi-E[\xi])^2]
=a^2 V[\xi].$$ 

%\newshadetheorem{randomthe-v}[randomthe]{�藝}
%\begin{randomthe-v}
\begin{thrm}\label{randomthe-v}
$\xi$�����Ғl$e$
�����m���ϐ��Ƃ���. $V[\xi]=0$�ł��邽�߂̕K�v�\��������,
$P\{\xi=e\}=1$.
\end{thrm}
%\end{randomthe-v}
\proof $V[\xi]=0$�Ȃ��, $E[(\xi-e)^2]=0$. �䂦��
$$\int_0^{+\infty}P\{(\xi-e)^2\ge r\}\int d r=0.$$
�㎮��, $P\{(\xi-e)^2\ge r\}=0$ $\forall r>0$
���Ӗ�����.
�䂦��, $P\{(\xi-e)^2=0\}=1$, �܂�, 
$P\{\xi=e\}=1$��������.

�t��, $P\{\xi=e\}=1$�Ȃ��, 
$P\{(\xi-e)^2=0\}=1$��$P\{(\xi-e)^2\ge r\}=0$ $\forall r>0$
�����藧�̂�,
$$V[\xi]=\int_0^{+\infty}P\{(\xi-e)^2\ge r\}\int d r=0.$$


%\newshadetheorem{randomthevar}[randomthe]{�藝}
\begin{thrm}
%\begin{randomthevar}
$\xi_1,\xi_2,\cdots,\xi_n$���L���Ȋ��Ғl������
�Ɨ��Ȋm���ϐ��Ȃ��,
\begin{equation}\label{variance-2}
V[\xi_1+\xi_2+\cdots+\xi_n]=V[\xi_1]+V[\xi_2]+\cdots+V[\xi_n].
\end{equation}
\end{thrm}
%\end{randomthevar}
\proof ���U�̒�`����
$$\begin{array}{rl}V\left[\sum\limits_{i=1}^n\xi_i\right]\!\!\!&
=E\left[(\xi_1+\xi_2+\cdots +\xi_n-E[\xi_1]-E[\xi_2]-\cdots 
-E[\xi_n])^2\right]\\[0.3cm]
&=\sum\limits_{i=1}^nE\left[(\xi_i-E[\xi_i])^2\right]
+2\sum\limits_{i=1}^{n-1}\sum\limits_{j=i+1}^n 
E\left[(\xi_i-E[\xi_i])(\xi_j-E[\xi_j])\right].
\end{array}$$
$\xi_1,\xi_2,\cdots,\xi_n$��
�Ɨ��Ȃ̂�,
�S�Ă�$i,j(i\not=j)$�ɑ΂���,\\
$E\left[(\xi_i-E[\xi_i])(\xi_j-E[\xi_j])\right]=0.
$ �䂦��, (\ref{variance-2})�͐��藧��.


\subsubsection*{�ő啪�U�藝}

$\xi$��$[a,b]$
�ɒl���Ƃ�m���ϐ�, �A��, �m�����z�͔C�ӂƂ���. 
����, ���Ғl�����m�̏ꍇ
�̕��U�̍ő�l��? �܂���,
���U�����m�̏ꍇ�̊��Ғl�̍ŏ��l��
�ő�l��? �ő啪�U�藝�͂����̖₢�ɓ�����.

%\newshadetheorem{randomthe-mvt1}[randomthe]{�藝}
%\begin{randomthe-mvt1}
\begin{thrm}(Edmundson-Madansky Inequality)
\label{randomthe-mvtlemma} $f$��
$[a,b]$��̓ʊ֐�, $\xi$��$[a,b]$��
�l���Ƃ�m���ϐ���, ���Ғl$e$�����Ƃ���. ���̂Ƃ�
\begin{equation}\label{randomthe-mvtlemma01}
E[f(\xi)]\le\frac{b-e}{b-a}f(a)+\frac{e-a}{b-a}f(b).
\end{equation}
\end{thrm}
%\end{randomthe-mvt1}
\proof �e$\omega\in\Omega$�ɑ΂���, 
$a\le\xi(\omega)\le b$��
����������.
$$\xi(\omega)=\frac{b-\xi(\omega)}{b-a}a+\frac{\xi(\omega)-a}{b-a}b.$$
$f$�̓ʐ�
���, ����������.
$$f(\xi(\omega))\le \frac{b-\xi(\omega)}{b-a}f(a)+\frac{\xi(\omega)-a}{b-a}f(b).$$
���ӂ̊��Ғl���Ƃ��,
(\ref{randomthe-mvtlemma01})��������.

%\newshadetheorem{randomthe-mvt}[randomthe]{�藝}
%\begin{randomthe-mvt}
\begin{thrm}(�ő啪�U�藝\index{���������Ԃ񂳂�Ă���@�ő啪�U�藝})
\label{randomthe-mvt} 
$\xi$��$[a,b]$���ɒl���Ƃ�m���ϐ���,
���Ғl$e$�����Ƃ���. �m�����z��
�C�ӂƂ���. ���̂Ƃ�,
\begin{equation}
V[\xi]\le (e-a)(b-e),
\end{equation}
��������
�̂��߂̕K�v�\��������, $\xi$�������Œ�߂���Ƃ�.
\begin{equation}\label{worstrandomv}
P\{\xi=x\}=\left\{\begin{array}{ll}\displaystyle\frac{b-e}{b-a},
&\mbox{if }x=a\\[0.4cm]\displaystyle\frac{e-a}{b-a},
&\mbox{if }x=b.
\end{array}\right.
\end{equation}
\end{thrm}
%\end{randomthe-mvt}
\proof �藝 \ref{randomthe-mvtlemma}
����, $f(x)=(x-e)^2$�ƒ�`�����
�����ɏ]��. �܂�, (\ref{worstrandomv})
�ɂ�茈�܂�m���ϐ���,
���U$(e-a)(b-e)$�������Ƃ��e�Ղɂ킩��. �藝�͏ؖ����ꂽ.

%\newshadetheorem{randomthe-mvte}[randomthe]{�藝}
\begin{thrm}
%\begin{randomthe-mvte}
$\xi$��$[a,b]$����
�l���Ƃ�m���ϐ���,
���U$v$�����Ƃ���. �m�����z�͔C�ӂƂ���Ƃ�,
\begin{equation}\label{randomthe-mvte01}
\frac{a+b-\sqrt{(b-a)^2+4v}}{2}\le E[\xi]\le
\frac{a+b+\sqrt{(b-a)^2+4v}}{2}.
\end{equation}
\end{thrm}
%\end{randomthe-mvte}
\proof �藝~\ref{randomthe-mvt}����,
$v\le(E[\xi]-a)(b-E[\xi])$, �䂦��
(\ref{randomthe-mvte01})�͐��藧�� .



\subsection*{���[�����g}

%\newtheorem{randomdefmoment}[randomdef]{��`}
%\begin{randomdefmoment}
\begin{defn}\label{:morandom}
$\xi$���m���ϐ�, $k$�𐳐��Ƃ���Ƃ�\\
(a) ���Ғl$E[\xi^k]$��, $k$�����[�����g�Ƃ�΂��;\\
(b) ���Ғl$E[|\xi|^k]$��, $k$����΃��[�����g�Ƃ�΂��; \\
(c) ���Ғl $E[(\xi-E[\xi])^k]$��, $k$�����S���[�����g�Ƃ�΂��; \\
(d) ���Ғl$E[|\xi-E[\xi]|^k]$��, $k$����Β��S���[�����g�Ƃ�΂��.
\end{defn}
%\end{randomdefmoment}

���Ғl��$1$�����[�����g\index
{���[�߂��@���[�����g!������ւ񂷂�@--�m���ϐ�},
$\xi$��1�����S���[�����g��0,
2�����S���[�����g�͕��U�ł���.


%\newshadetheorem{randomtheexpect123}[randomthe]{�藝}
%\begin{randomtheexpect123}
\begin{thrm}\label{randomtheexpect123}
$\xi$���m���ϐ�, $t$��
�����Ƃ���. $E[|\xi|^t]<\infty$�Ȃ��, 
\begin{equation}\label{randomtheexpect1231}
\lim_{x\to\infty}x^t P\{|\xi|\ge x\}=0.
\end{equation}
�t��, $\xi$������$t>0$�ɑ΂���,
(\ref{randomtheexpect1231})�𖞂����m���ϐ��Ƃ���. 
���̂Ƃ�, �C�ӂ�$0\le s<t$�ɑ΂���,
$E[|\xi|^s]<\infty.$ 
\end{thrm}
%\end{randomtheexpect123}
\proof ���Ғl�̒�`����, �������]��.
$$E[|\xi|^t]=\int_0^{\infty}P\{|\xi|^t\ge r\}\int d r<\infty.$$
�����,
$$\lim_{x\to\infty}\int_{x^t/2}^{\infty}P\{|\xi|^t\ge r\}\int d r=0.$$
(\ref{randomtheexpect1231})��,
���̊֌W������ؖ������.
$$\int_{x^t/2}^{\infty}P\{|\xi|^t\ge r\}\int d r\ge\int_{x^t/2}^{x^t}
P\{|\xi|^t\ge r\}\int d r\ge \frac12 x^t P\{|\xi|\ge x\}.$$ 
�t��, (\ref{randomtheexpect1231})��
���藧�Ȃ��,
$$x^t P\{|\xi|\ge x\}\le 1,\quad\forall x\ge a.$$
�𖞂����� 
$a$�����݂���. 
�����,
$$\begin{array}{rl}
E[|\xi|^s]\!\!\!\!
&=\displaystyle\int_0^a P\left\{|\xi|^s\ge r\right\}\int d r
+\int_a^{+\infty}P\left\{|\xi|^s\ge r\right\}\int d r\\[0.5cm]
&\displaystyle\le\int_0^a P\left\{|\xi|^s\ge r\right\}\int d r
+\int_0^{+\infty}s r^{s-1}P\left\{|\xi|\ge r\right\}\int d r\\[0.5cm]
&\displaystyle\le\int_0^a P\left\{|\xi|^s\ge r\right\}\int d r
+s\int_0^{+\infty}r^{s-t-1}\int d r\\[0.5cm]
&\displaystyle<+\infty. \quad\left(\mbox{by }\int_0^{\infty}r^p\int d r
<\infty\mbox{ for any }p<-1\right)
\end{array}$$
�藝�͏ؖ����ꂽ.

\begin{exap} (\ref{randomtheexpect1231})
�̏�����, $E[|\xi|^t]<\infty$��
�Ӗ����Ȃ�. ������, �ȉ��̐��̊m���ϐ���
�l����.
$$\xi=\sqrt[t]{\frac{2^i}{i}}\mbox{ with probability }\frac{1}{2^i},
\quad i=1,2,\cdots $$
�����͖��炩.
$$\lim_{x\to\infty}x^t P\{\xi\ge x\}
=\lim_{n\to\infty}\left(\sqrt[t]{\frac{2^n}{n}}\right)^t
\sum_{i=n}^{\infty}\frac{1}{2^i}=\lim_{n\to\infty}\frac{2}{n}=0.$$ 
������, $\xi^t$�̊��Ғl��
$$E[\xi^t]=\sum_{i=1}^{\infty}\left(\sqrt[t]{\frac{2^i}{i}}\right)^t\cdot
\frac{1}{2^i}
=\sum_{i=1}^{\infty}\frac{1}{i}=\infty.$$
\end{exap}

%\newshadetheorem{randomthe-moments}[randomthe]{�藝}
%\begin{randomthe-moments} 
\begin{thrm}$\xi$��$[a,b]$�ɒl���Ƃ�,
���Ғl$e$
�����m���ϐ��Ƃ���. ���̂Ƃ�, �C�ӂ�
������$k$�ɑ΂���, $k$����΃��[�����g��
$k$����Β��S���[�����g��,
���̕s�����𖞂���.
\begin{equation}
E[|\xi|^k]\le\frac{b-e}{b-a}|a|^k+\frac{e-a}{b-a}|b|^k,
\end{equation}
\begin{equation}
E[|\xi-e|^k]\le\frac{b-e}{b-a}(e-a)^k+\frac{e-a}{b-a}(b-e)^k.
\end{equation}
\end{thrm}
%\end{randomthe-moments}
\proof �藝~\ref{randomthe-mvtlemma}
����, $f(x)=|x|^k$, $f(x)=|x-e|^k$��
��`����ƒ����ɂ킩��.


\subsection*{�N���e�B�J���l}
\label{:cv1}

$\xi$���m���ϐ��Ƃ���Ƃ�,
��̑��x�Ƃ��Ċ��Ғl��p���邱�Ƃ��ł���.
�����, ���ʑ��x\label{:crandom}\index
{����Ă����邿@�N���e�B�J���l!������ւ񂷂�@--�m���ϐ�}�Ƃ���, 
$\alpha$-�y�ϒl,
$\alpha$-�ߊϒl�𗘗p���邱�Ƃ��ł���.


%\newtheorem{randomdefoptimistic}[randomdef]{��`}
\begin{defn}
%\begin{randomdefoptimistic}
$\xi$���m���ϐ�, $\alpha\in(0,1]$�Ƃ���Ƃ�
\begin{equation}
\xi_{\sup}(\alpha)=\sup\left\{r\bigm| P\left\{\xi\ge r\right\}
\ge\alpha\right\}
\end{equation}
��, $\xi$��$\alpha$-�y�ϒl�Ƃ�΂�,
\begin{equation}
\xi_{\inf}(\alpha)=\inf\left\{r\bigm| P\left\{\xi\le
r\right\}\ge\alpha\right\}
\end{equation}
��, $\xi$��$\alpha$-�ߊϒl�Ƃ�΂��.
\end{defn}
%\end{randomdefoptimistic}

�����, �m���ϐ�$\xi$�����Ȃ��Ƃ�
�m��$\alpha$��$\alpha$-�y�ϒl$\xi_{\sup}(\alpha)$�ȏ�
�ɑ��݂�,
���Ȃ��Ƃ��m��$\alpha$��,
$\alpha$-�ߊϒl
$\xi_{\inf}(\alpha)$�ȉ��ɑ��݂��邱�Ƃ��Ӗ����Ă���. 
�y�ϒl��, �p�[�Z���`���l�Ƃ���΂��.

%\newshadetheorem{randomthe11}[randomthe]{�藝}
\begin{thrm}
%\begin{randomthe11}
$\xi$���m���ϐ��Ƃ���Ƃ�
\begin{equation}
P\{\xi\ge \xi_{\sup}(\alpha)\}\ge\alpha,\quad P\{\xi\le \xi_{\inf}(
\alpha)\}\ge\alpha
\end{equation}
�A��, $\xi_{\sup}(\alpha)$��$\xi_{\inf}(\alpha)$
��, ���ꂼ��$\xi$��$\alpha$-�y�ϒl��$\alpha$-�ߊϒl.
\end{thrm}
%\end{randomthe11}
\proof �y�ϒl�̒�`����,
$P\{\xi\ge r_i\}\ge\alpha$��
$r_i\uparrow\xi_{\sup}(\alpha)(i\rightarrow\infty)$
�𖞂�����������$\{r_i\}$�����݂���. 
$\{\omega|\xi(\omega)\ge r_i\}\downarrow\{\omega|\xi(\omega)\ge 
\xi_{\sup}(\alpha)\}$
�Ȃ̂�, �m���A���藝���玟�����]��.
$$ P\{\xi\ge \xi_{\sup}(\alpha)\}=\lim_{i\rightarrow\infty}
P\{\xi\ge r_i\}\ge\alpha.$$
�s����$P\{\xi\le \xi_{\inf}(\alpha)\}\ge\alpha$
�����l�ɏؖ������.

\begin{exap}
$P\{\xi\ge \xi_{\sup}(\alpha)\}>\alpha$����
$P\{\xi\le \xi_{\inf}(\alpha)\}>\alpha$
�����藧�ꍇ������.
�Ⴆ��,
$$\xi=\left\{\begin{array}{l}
0\mbox{ with probability 0.4}\\[0.1cm]
1\mbox{ with probability 0.6}.
\end{array}\right.$$
$\alpha=0.8$�Ȃ��, $\xi_{\sup}(0.8)=0$
�����, $P\{\xi\ge \xi_{\sup}(0.8)\}=1>0.8$.
�����, $\xi_{\inf}(0.8)=1$,
$P\{\xi\le \xi_{\inf}(0.8)\}=1>0.8$.
\end{exap}

%\newshadetheorem{randomthe1}[randomthe]{�藝}
\begin{thrm}
%\begin{randomthe1}
$\xi$���m���ϐ��Ƃ���Ƃ�,\\
(a) $\xi_{\inf}(\alpha)$��$\alpha$�̑���, ���A���֐�;\\
(b) $\xi_{\sup}(\alpha)$��$\alpha$�̌���, ���A���֐�.
\end{thrm}
%\end{randomthe1}
\proof (a) $\xi_{\inf}(\alpha)$��,
$\alpha$�̑����֐��ł��邱�Ƃ�,
�ȒP�ɏؖ��ł���. ����,
$\xi_{\inf}(\alpha)$��$\alpha$�ɑ΂��鍶�A�������ؖ�����.
$\{\alpha_i\}$��,
$\alpha_i \uparrow \alpha$�𖞂����C�ӂ̐�����Ƃ���. 
���̂Ƃ�,
$\{\xi_{\inf}(\alpha_i)\}$�͑�������ƂȂ�. ����,
�Ɍ���$\xi_{\inf}(\alpha)$�ɓ������Ȃ��, 
���A�����͏ؖ������. �����Ȃ����,
�����𖞂�����$z^*$�����݂���.
$$\lim\limits_{i\rightarrow\infty}\xi_{\inf}(\alpha_i)<z^*<\xi_{\inf}
(\alpha).$$
�����, �e$i$�ɑ΂���, $P\{\xi\le z^*\}\ge\alpha_i$
�����藧��. 
$i\to\infty$�Ƃ����, $P\{\xi\le z^*\}\ge\alpha$. �䂦��, $z^* \ge
\xi_{\inf}(\alpha)$. �w���@�ɂ��,
$\xi_{\inf}(\alpha)$��$\alpha$�ɑ΂��鍶
�A�����͏ؖ������. (b)�����l�ɏؖ������.

%\newshadetheorem{randomthe111}[randomthe]{�藝}
\begin{thrm}
%\begin{randomthe111}
$\xi$���m���ϐ��Ƃ���Ƃ�,\\
(a) $\alpha>0.5$�Ȃ��, $\xi_{\inf}(\alpha)\ge \xi_{\sup}(\alpha)$;\\
(b) $\alpha\le 0.5$�Ȃ��, $\xi_{\inf}(\alpha)\le
\xi_{\sup}(\alpha)$.
\end{thrm}
%\end{randomthe111}
\proof  (a):  $\overline
\xi(\alpha)=(\xi_{\inf}(\alpha)+\xi_{\sup}(\alpha))/2$�Ƃ���. 
$\xi_{\inf}(\alpha)<\xi_{\sup}(\alpha)$�Ȃ��, 
$$1\ge P\{\xi<\overline\xi(\alpha)\}+P\{\xi>\overline\xi(\alpha)\}
\ge\alpha+\alpha>1.$$
�w���@�ɂ��, $\xi_{\inf}(\alpha)\ge \xi_{\sup}(\alpha)$
��������.
(b): $\xi_{\inf}(\alpha)>\xi_{\sup}(\alpha)$�����肷��. 
$\xi_{\inf}(\alpha)$��
��`����, 
$P\{\xi\le\overline \xi(\alpha)\}<\alpha$���]��. 
���l��, $\xi_{\sup}(\alpha)$�̒�`����, 
$P\{\xi\ge\overline \xi(\alpha)\}<\alpha$. �䂦��,
$$1\le P\{\xi\le\overline \xi(\alpha)\}+P\{\xi\ge\overline
\xi(\alpha)\}<\alpha+\alpha\le 1.$$ �w���@����,
$\xi_{\inf}(\alpha)\le \xi_{\sup}(\alpha)$. �藝�͏ؖ����ꂽ.

%\newshadetheorem{randomtheopt}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheopt}
$\xi$���m���ϐ��Ƃ���Ƃ�,\\
(a) $c\ge 0$�Ȃ��, $(c\xi)_{\sup}(\alpha)=c\xi_{\sup}(\alpha)$
����
$(c\xi)_{\inf}(\alpha)=c\xi_{\inf}(\alpha)$;\\
(b) $c<0$�Ȃ��, $(c\xi)_{\sup}(\alpha)=c\xi_{\inf}(\alpha)$ ����
$(c\xi)_{\inf}(\alpha)=c\xi_{\sup}(\alpha)$.
\end{thrm}
%\end{randomtheopt}
\proof (a) $c=0$�̂Ƃ��͖��炩. $c>0$�Ȃ��, 
$$\begin{array}{ll}
(c\xi)_{\sup}(\alpha)\!\!\!&=\sup\left\{r\mid P\{c\xi\ge 
r\}\ge\alpha\right\}\\[0.15cm]
&=c\sup\left\{{r}/{c}\mid 
P\left\{\xi\geq{r}/{c}\right\}\ge\alpha\right\}\\[0.15cm]
&=c\xi_{\sup}(\alpha).
\end{array}$$
���l��,
$(c\xi)_{\inf}(\alpha)=c\xi_{\inf}(\alpha)$���ؖ��ł���.

(b) �ؖ���,
$(-\xi)_{\sup}(\alpha)=-\xi_{\inf}(\alpha)$�� 
$(-\xi)_{\inf}(\alpha)=-\xi_{\sup}(\alpha)$���m���߂��
�\���ł���. ����, �C�ӂ�
$\alpha\in(0,1]$�ɑ΂���, 
$$\begin{array}{ll}
(-\xi)_{\sup}(\alpha)\!\!\!&=\sup\{r\mid P\{-\xi\geq r\}
\geq\alpha\}\\[0.1cm]
&=-\inf\{-r\mid P\{\xi\leq -r\}\geq\alpha\}\\[0.1cm]
&=-\xi_{\inf}(\alpha).
\end{array}$$
���l�ɂ���, 
$(-\xi)_{\rm inf}(\alpha)=-\xi_{\rm
sup}(\alpha)$���ؖ��ł���. �藝�͏ؖ����ꂽ.

\subsection{�G���g���s�[}
\label{:entropyrand}

�m���ϐ����^����ꂽ�Ƃ�,
�m���ϐ����Ƃ�l��\������
��,
���̍���̓x�������ǂ̂悤�ɒ�ʉ����邩�H
���̖₢�ɓ����邽�߂�, Shannon \cite{shannon49}
��, �s�m�����̑��x�Ƃ��ăG���g���s�[�̊T�O��
��`����. 

\subsubsection*{���U�m���ϐ��̃G���g���s�[}

%\newtheorem{randomentropy-d}[randomdef]{��`}
\begin{defn}
%\begin{randomentropy-d}
$\xi$�����ꂼ��,
�m��$p_i$, $i=1,2,\cdots $��, �l$\mathbf{x}_i$
���Ƃ闣�U�^�m���ϐ��Ƃ���. ���̂Ƃ�, �G���g���s�[\index
{����Ƃ�ҁ[@�G���g���s�[!������ւ񂷂�@--�m���ϐ�}��
�����Œ�`�����.
\begin{equation}
H[\xi]=-\sum_{i=1}^{\infty}p_i\ln p_i.
\end{equation}
%Especially, if $\xi$ is a simple random variable taking values
%$x_i$ with probabilities $p_i$, $i=1,2,\cdots,n$, respectively,
%then its entropy is
%\begin{equation}H[\xi]=-\sum_{i=1}^{n}p_i\ln p_i.\end{equation}
\end{defn}
%\end{randomentropy-d}

�G���g���s�[��, �l�̐��Ɗm���݂̂Ɉˑ���,
���ۂ̊m���ϐ��̒l�ɂ͈ˑ����Ȃ����Ƃ�
���ӂ��Ă����Ȃ���΂Ȃ�Ȃ�.

%\newshadetheorem{randomtheentropyd1}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheentropyd1}
$\xi$�����ꂼ��,
�m��$p_i$, $i=1,2,\cdots$��, �l$\mathbf{x}_i$
���Ƃ闣�U�^�m���ϐ��Ƃ���Ƃ�
\begin{equation}H[\xi]\ge 0\end{equation} 
�܂�, ���������̂��߂̕K�v�\��������,
$p_k=1$
�𖞂����Y����$k$�����݂��邱��. �܂�, 
$\xi$���萔�ł��邱��.
\end{thrm}
%\end{randomtheentropyd1}
\proof �񕉐��͖��炩. �����, $H[\xi]=0$�ł��邽�߂�
�K�v�\��������, �e$i$�ɑ΂���$p_i=0$�܂���$1$. �܂�,
$p_k=1$�𖞂����Y����$k$���B���
���݂���. �藝�͏ؖ����ꂽ.

\vskip 0.2cm ���̒藝��, ���U�^�m���ϐ����萔�ɑމ�
����Ƃ�, �m���ϐ��̃G���g���s�[�͍ŏ��l$0$�ɂȂ�. 
���̏ꍇ�s�m�����͂Ȃ�.

%\newshadetheorem{randomtheentropyd2}[randomthe]{�藝}
%\begin{randomtheentropyd2}
\begin{thrm}\label{randomtheentropyd2}
$\xi$�����ꂼ��
�m��$p_i$, $i=1,2,\cdots,n$��, �l$x_i$
���Ƃ�P���m���ϐ��Ƃ���. ���̂Ƃ�
\begin{equation}
H[\xi] \le \ln n\end{equation}
���������̂��߂̕K�v�\��������,
�S�Ă�$i=1,2,\cdots, n$�ɑ΂���,
$p_i\equiv 1/n$�����藧����. 
\end{thrm}
%\end{randomtheentropyd2}
\proof �֐�$-t\ln t$
��$t$�̉��֐���,
$p_1+p_2+\cdots +p_n=1$�Ȃ̂�
$$-\sum_{i=1}^{n}p_i\ln p_i\le -n\left(\frac{1}{n}\sum_{i=1}^np_i\right)\ln
\left(\frac{1}{n}\sum_{i=1}^n p_i\right)=\ln n$$
�㎮����,
$H[\xi]\le\ln n$�ł��邱�Ƃ��킩��, ���������̂��߂�
�K�v�\��������,
$p_1=p_2=\cdots =p_n$, �܂�, �S�Ă�$i=1,2,\cdots,
n$�ɑ΂���$p_i\equiv 1/n$ 


\vskip 0.2cm ���̒藝��,
�P���m���ϐ������m���̂Ƃ�,
�ő�l$\ln n$
���Ƃ邱�Ƃ��咣���Ă���. ���̏ꍇ,
�m���ϐ����Ƃ�S�Ă̒l�̊ԂɗD�揇�ʂ͑��݂��Ȃ�.




\subsubsection*{��ΘA���Ȋm���ϐ��̃G���g���s�[}

%\newtheorem{randomentropy-c}[randomdef]{��`}
\begin{defn}
%\begin{randomentropy-c}
$\xi$���m�����x�֐�
$\phi$�����m���ϐ��Ƃ���Ƃ�,
�G���g���s�[�͎����Œ�`�����. 
\begin{equation}H[\xi] =
-\int_{-\infty}^{+\infty}\phi(x)\ln\phi(x)\int d x.\end{equation}
\end{defn}
%\end{randomentropy-c}


\begin{exap} $\xi$����l���z�ɏ]��
$[a,b]$��̊m���ϐ��Ƃ���. ���̂Ƃ�,
�G���g���s�[��$H[\xi]=\ln (b-a).$ ���̗���,
��ΘA���Ȋm���ϐ��̃G���g���s�[��, ���̒l��
���̒l���Ƃ蓾�邱�Ƃ������Ă���.
�Ȃ��Ȃ��, $\ln(b-a)<0(b-a<1)$; 
$\ln(b-a)>0(b-a>1)$.
\end{exap}

\begin{exap} $\xi$���w�����z�ɏ]�����Ғl$\beta$������
�m���ϐ��Ƃ���Ƃ�, �G���g���s�[��$H[\xi]=1+\ln
\beta.$
\end{exap}

\begin{exap} $\xi$�����Ғl$e$�ƕ��U$\sigma^2$
�������K���z�ɏ]���m���ϐ��Ƃ���Ƃ�,
�G���g���s�[��
$H[\xi]=1/2+\ln \sqrt{2\pi}\sigma.$
\end{exap}

%\newshadetheorem{randomtheentropyc3}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheentropyc3}
$\xi$���ΘA���Ȋm���ϐ��Ƃ���Ƃ�,
�C�ӂ̎���$a$, $b$�ɑ΂���,
$H[a\xi+b]=|a|H[\xi]$.
\end{thrm}
%\end{randomtheentropyc3}
\proof ��`���璼���ɏ]��.


\subsubsection*{�ő�G���g���s�[���O}
\label{:randommaxentropy}

���鐧��, �Ⴆ��, ���Ғl, ���U���^����ꂽ�Ƃ�,
��ʂ�, �����̐����𖞑����镡����
�m�����z�����݂���.
���̏ꍇ, �����𖞂����G���g���s�[���ő�ɂ���
�m�����z��I�����������Ƃ�����.
���̕��@��, ���΂���,
{\em �ő�G���g���s�[���O}\index
{������������Ƃ�ҁ[��˂�@�ő�G���g���s�[���O}�Ƃ�΂��
(Jaynes \cite{jaynes57}).


%\example Let $\xi$ be a simple random variable taking values $x_i$
%with probabilities $p_i$, $i=1,2,\cdots,n$, respectively. Assume
%that the expected value is prescribed to be $e$. It follows from
%the maximum entropy principle that the maximum entropy
%distribution $\{p_1,p_2,\cdots,p_n\}$ should maximize the entropy
%$$-(p_1\ln p_1+p_2\ln p_2+\cdots+p_n\ln
%p_n)$$ subject to the natural constraint $p_1+p_2+\cdots+p_n=1$
%and expected value constraint $p_1x_1+p_2x_2+\cdots+p_nx_n=e.$ The
%Lagrangian is
%$$L=-\sum_{i=1}^np_i\ln
%p_i-\lambda_1\left(\sum_{i=1}^np_i-1\right)-\lambda_2\left(\sum_{i=1}^np_ix_i-e\right).$$
%Letting $\partial L/\partial p_i=0$ for $i=1,2,\cdots,n$, we get
%$$\ln p_i+1+\lambda_1+\lambda_2x_i=0,\quad i=1,2,\cdots,n.$$
%Thus the maximum entropy distribution $\{p_1,p_2,\cdots,p_n\}$ is
%determined by
%$$p_i=qr^{x_i},\quad i=1,2,\cdots,n$$
%provided that $q$ and $r$ are positive numbers solving the system
%of equations,
%$$q\sum_{i=1}^nr^{x_i}=1,\quad q\sum_{i=1}^nx_ir^{x_i}=e.$$
%We differentiate the integrand with respect to
%$\phi$ and set the derivative equal to 0.

\begin{exap} $\xi$��
$[a,b]$��̐�ΘA���Ȋm���ϐ��Ƃ���. �ő�G���g���s�[���O�ɂ��,
�����̃G���g���s�[���ő�ɂ���
�m�����x�֐�$\phi(x)$�������邱�Ƃ����݂�.
$$
  -\int_a^b\phi(x)\ln\phi(x)\int d x
$$
�A��, $\int_a^b\phi(x)\int d x=1.$ ���O���W���A����
$$ 
  L=-\int_a^b\phi(x)\ln\phi(x)\int d x-
  \lambda\left(\int_a^b\phi(x)\int d x-1\right).
$$ 
���������ăI�C���[�E���O�����W���������͎��̌`�ɋA�������B
%It follows from the Euler-Lagrange equation
%
\label{:eulerla}\footnote{%[����]
$L=\int_{a}^{b}F(x,\phi(x),\phi'(x))\mbox{d}x$�Ƃ���, �A��,
$F$�͊��m�̘A����$1$, $2$�����֐������֐�. 
$L$���ɒl(�ɑ�l�܂��͋ɏ��l) 
��$\phi(x)$�ł��Ȃ��, 
$$
  \displaystyle\frac{\partial F}{\partial
  \phi(x)}-\displaystyle\frac{d}{d x}
  \left(\displaystyle\frac{\partial F} 
  {\partial \phi'(x)}\right)=0$$ �㎮��,
�I�C���[���O�����W��������\index
{������[�炮��񂶂�ق��Ă�����@�I�C���[���O�����W��������}�Ƃ�΂��.
����, $\phi'(x)$���������, ${\partial F}/{\partial
\phi(x)}=0.$ �I�C���[���O�����W����������, �ɒl��
���݂̕K�v�����ł���, �\�������ł͂Ȃ����Ƃɒ��ӂ���.
������, 
�ɒl�̑��݂����炩��, �I�C���[���O�����W��������
�̉����B��Ȃ��, ���̉��͋ɒl�̏����𖞂����Ă��Ȃ����
�Ȃ�Ȃ�.} 

%of calculus of
%variations that the maximum entropy probability density function
%meets
$$ 
  \ln\phi(x)+1+\lambda=0
$$
%and has the form 
���̎�����
$\phi(x)=\exp(-1-\lambda)$
%. Substituting it into
%the natural constraint, we get
�ƂȂ邩���������
$$\phi^*(x)=\frac{1}{b-a},\quad a\le x\le b$$
�㎮��, ��l���z�̊m���ϐ��ł���,
�ő�G���g���s�[��, $H[\xi^*]=\ln (b-a).$
\end{exap}

\begin{exap} $\xi$��
$[0,\infty)$��̐�ΘA���Ȋm���ϐ��Ƃ���. $\xi$�̊��Ғl
��, �\��$\beta$�Ɨ^�����Ă���Ɖ��肷��. �ő�G���g���s�[�m��
���x�֐�$\phi(x)$�͎����̃G���g���s�[��
�ő�ɂ���.
$$-\int_0^{+\infty}\phi(x)\ln\phi(x)\int d x.$$
�A��, �����𖞑�������̂Ƃ���.
$$\int_0^{+\infty}\phi(x)\int d
x=1, \quad\int_0^{+\infty}x\phi(x)\int d x=\beta.$$ 
���O���W���A����
$$L=\displaystyle-\int_0^{\infty}\phi(x)\ln\phi(x)\int d x
-\lambda_1\left(\int_0^{\infty}\phi(x)\int d x-1\right)
-\lambda_2\left(\int_0^{\infty}x\phi(x)\int d x-\beta\right).$$ 

�ő�G���g���s�[�m�����x�֐���,
�ȉ��̃I�C���[���O�����W��
�������𖞂���.
$$\ln\phi(x)+1+\lambda_1+\lambda_2x=0$$
�܂�, $\phi(x)=\exp(-1-\lambda_1-\lambda_2x)$
�𐧖񎮂ɑ�������,
$$\phi^*(x)=\frac{1}{\beta}\exp\left(-\frac{x}{\beta}\right),\quad
x\ge 0$$ 
�㎮��, �w�����z�̊m���ϐ���,
�ő�G���g���s�[��
 $H[\xi^*]=1+\ln \beta.$
\end{exap}

\begin{exap} $\xi$��
$(-\infty,+\infty)$��̐�ΘA���Ȋm���ϐ��Ƃ���. 
$\xi$�̊��Ғl�ƕ��U�����ꂼ��,
$\mu$, $\sigma^2$
�Ɨ\�ߌ��߂Ă���.
�ő�G���g���s�[�m�����x�֐�
$\phi(x)$
��, �����̃G���g���s�[���ő�ɂ���. 
$$-\int_{-\infty}^{+\infty}\phi(x)\ln\phi(x)\int d x$$
�A��, �����𖞂���.
$$
\int_{-\infty}^{+\infty}\phi(x)\int d x=1,\quad
\int_{-\infty}^{+\infty}x\phi(x)\int d x=\mu,\quad
\int_{-\infty}^{+\infty}(x-\mu)^2\phi(x)\int d x=\sigma^2.$$ 
���O���W���A����
$$\begin{array}{rl}L=\!\!\!\!&\displaystyle-\int_{-\infty}^{+\infty}\phi(x)
\ln\phi(x)\int d x
-\lambda_1\left(\int_{-\infty}^{+\infty}\phi(x)\int d x
-1\right)\\[0.6cm]
&\displaystyle-\lambda_2\left(\int_{-\infty}^{+\infty}x\phi(x)\int d
x-\mu\right)-\lambda_3\left(\int_{-\infty}^{+\infty}(x-\mu)^2\phi(x)\int d
x-\sigma^2\right).\end{array}$$ 
�ő�G���g���s�[�m�����x�֐���,
�ȉ��̃I�C���[���O�����W��
�������𖞂���.
$$\ln\phi(x)+1+\lambda_1+\lambda_2x+\lambda_3(x-\mu)^2=0$$
�܂�,
$\phi(x)=\exp(-1-\lambda_1-\lambda_2x-\lambda_3(x-\mu)^2)$
�𐧖񎮂ɑ�������,
$$\phi^*(x)=\frac{1}{\sigma\sqrt{2\pi}}\exp
\left(-\frac{(x-\mu)^2}{2\sigma^2}\right),\quad x\in R$$
�㎮��, ���K���z�̊m���ϐ��ɂȂ�, �ő�G���g���s�[��,
$H[\xi^*]=1/2+\ln \sqrt{2\pi}\sigma.$
\end{exap}

\subsection*{����}

%Let $\mathbb{R}$ be the set of random variables, and
%$\mathbb{R}^n$ the set of $n$-dimensional random vectors. We will
%define distance, metric space, open set, and Borel set.

�����̊T�O��, �Ȋw, �H�w�̕���ɂ�����
���ɏd�v�ł���. ���̐߂ł�, �m���ϐ�
�Ԃ̋������Љ��.


%\newtheorem{randomdefdistance}[randomdef]{��`}

%\begin{randomdefdistance}
\begin{defn}\label{:randomdistance}
�m���ϐ�$\xi$ ��
$\eta$�̋���\index{�����@����!������ւ񂷂�@--�m���ϐ�}�͎����Œ�`�����.
\begin{equation}
d(\xi,\eta)=E[|\xi-\eta|].
\end{equation}
\end{defn}
%\end{randomdefdistance}

%\remark The distance of random variables $\xi$ and $\eta$ may also
%defined as $\sqrt[p]{E[|\xi-\eta|^p]}$ for some number $p>1$.

%\newshadetheorem{randomthedistance}[randomthe]{�藝}
%\begin{randomthedistance}
\begin{thrm}\label{randomthedistance}
$\xi,\eta,\tau$���m���ϐ�,
$d(\cdot,\cdot)$�������Ƃ���. ���̂Ƃ�\\
(a) (�񕉐�) $d(\xi,\eta)\ge 0$;\\
(b) (���ꐫ) $d(\xi,\eta)=0$�ł��邽�߂̕K�v�\��������$\xi=\eta$;\\
(c) (�Ώ̐�) $d(\xi,\eta)=d(\eta,\xi)$;\\
(d) (�O�p�s����) $d(\xi,\eta)\le
d(\xi,\tau)+d(\eta,\tau)$.
\end{thrm}
%\end{randomthedistance}
\proof (a), (b), (c)�͒�`���璼���ɏ]��. 
(d)��, ���̊֌W������ؖ������.
$$E[|\xi-\eta|]\le E[|\xi-\tau|+|\eta-\tau|]=E[|\xi-\tau|]+E[|\eta-\tau|].$$



\subsection*{���ʊ}
\label{:rankrandomvariable}

$\xi$��$\eta$���̊m���ϐ��Ƃ���. �����̐��E�Ƃ͈قȂ�,
�m���̐��E�ɂ͎��R�Ȍ`�ł̏����͑��݂��Ȃ�. 
�����,
�m���ϐ��ɂǂ̂悤�ɏ�����^���邩�Ƃ���
�d�v�Ȗ�肪�N����.
�����ł͎l�̏��ʊ\index{����񂢂������@���ʊ}��^����.

\vskip 0.2 cm \noindent{\bf ���Ғl�:} 
$\xi>\eta$�ł���Ƃ�, $E[\xi]>E[\eta].$ �A��,
$E$�͊m���ϐ��̊��Ғl��p�f.

\vskip 0.2 cm \noindent{\bf �y�ϒl�:} 
$\xi>\eta$�ł���Ƃ�,
���炩���ߌ��߂�ꂽ�M�������F�� 
$\alpha\in(0,1]$�ɑ΂���, 
$\xi_{\sup}(\alpha)>\eta_{\sup}(\alpha).$
�A��,
$\xi_{\sup}(\alpha)$��$\eta_{\sup}(\alpha)$��,
���ꂼ��$\xi$��$\eta$�� 
$\alpha$-�y�ϒl.

\vskip 0.2cm \noindent{\bf �ߊϒl�:}
$\xi>\eta$�ł���Ƃ�,
���炩���ߌ��߂�ꂽ�M�������F��
$\alpha\in(0,1]$�ɑ΂���, 
$\xi_{\inf}(\alpha)>\eta_{\inf}(\alpha).$ 
�A��,
$\xi_{\inf}(\alpha)$��$\eta_{\inf}(\alpha)$��,
���ꂼ��$\xi$��$\eta$��
$\alpha$-�ߊϒl.

\vskip 0.2cm \noindent{\bf �m���:}
$\xi>\eta$�ł���Ƃ�,
���炩���ߌ��߂�ꂽ�����F��$\overline r$�ɑ΂���,
$P\left\{\xi\ge\overline
r\right\}>P\left\{\eta\ge\overline r\right\}.$

\vskip 0.2cm ������,
�m���ϐ��̏����ɂ�, "�����̖@��" �͑��݂��Ȃ�����
�����y���Ă���. �قȂ���, �قȂ鏇�������o��.

\begin{exap} $\xi$��$\eta$��, ���ꂼ��$[0,6]$��$[1,3]$���
��̈�l���z�ɏ]���m���ϐ��Ƃ���. 
���Ғl��̏ꍇ, $\xi>\eta$, �Ȃ��Ȃ�� 
$E[\xi]=3>2=E[\eta]$. �y�ϒl��̏ꍇ��
$\alpha=0.9$�Ƃ����ꍇ, $\xi<\eta$,
�Ȃ��Ȃ��
$\xi_{\sup}(0.9)=0.6<1.2=\eta_{\sup}(0.9)$. 
���̎�����,
���Ғl��Ɗy�ϒl����قȂ邱�Ƃ�
�Ӗ����Ă���.
\end{exap}

\begin{exap} $\xi$��$\eta$��,
���ꂼ��$[0,6]$��$[3,5]$��̓�̈�l���z��
�]���m���ϐ��Ƃ���. ���Ғl��̏ꍇ,
$\xi<\eta$. �Ȃ��Ȃ��
$E[\xi]=3<4=E[\eta]$. �ߊϒl��̏ꍇ,
$\alpha=0.9$�Ƃ����ꍇ, $\xi>\eta$. �Ȃ��Ȃ��
$\xi_{\inf}(0.9)=5.4>4.8=\eta_{\inf}(0.9)$.
���̎�����,
���Ғl��Ɣߊϒl����قȂ邱�Ƃ�
�Ӗ����Ă���.
\end{exap} 

%\begin{exap} $\xi=(0,3,6)$��$\eta=(1,2,3)$
%���̎O�p�t�@�W�C�ϐ��Ƃ���. ���Ғl��̏ꍇ,
%$\xi>\eta$. �Ȃ��Ȃ��$E[\xi]=3>2=E[\eta]$. �M����̏ꍇ,
%$r=1$�Ƃ����ꍇ, $\xi<\eta.$ �Ȃ��Ȃ��$\Cr\{\xi\ge
%1\}=5/6<1=\Cr\{\eta\ge 1\}$. 
%���̎�����,
%���Ғl��ƉM���l����قȂ邱�Ƃ�
%�Ӗ����Ă���.
%\end{exap} 

\begin{exap} $\xi$��$\eta$�����ꂼ��,
$[0,6]$��$[1,3]$��̓�̈�l���z�ɏ]��
�m���ϐ��Ƃ���. �y�ϒl��̏ꍇ,
$\alpha=0.9$�Ƃ����ꍇ, $\xi<\eta.$ �Ȃ��Ȃ��
$\xi_{\sup}(0.9)=0.6<1.2=\eta_{\sup}(0.9)$. �ߊϒl��̏ꍇ,
$\alpha=0.9$�Ƃ����ꍇ, $\xi>\eta.$ �Ȃ��Ȃ��
$\xi_{\inf}(0.9)=5.4>2.8=\eta_{\inf}(0.9)$. ���̎�����,
�y�ϒl��Ɣߊϒl����قȂ邱�Ƃ�
�Ӗ����Ă���.
\end{exap} 

\begin{exap} $\xi$��$\eta$�����ꂼ��,
$[0,6]$��$[1,3]$��̓�̈�l���z�ɏ]��
�m���ϐ��Ƃ���. �y�ϒl��̏ꍇ,
$\alpha=0.7$�Ƃ����ꍇ, $\xi>\eta$. �Ȃ��Ȃ��
$\xi_{\sup}(0.7)=1.8>1.6=\eta_{\sup}(0.7)$. �m����̏ꍇ,
$r=1$�Ƃ����ꍇ, $\xi<\eta$. �Ȃ��Ȃ��$P\{\xi\ge
1\}=5/6<1=P\{\eta\ge 1\}$. 
���̎�����,
�y�ϒl��Ɗm������قȂ邱�Ƃ�
�Ӗ����Ă���.
\end{exap} 

\begin{exap} $\xi=(0,3,6)$��$\eta=(1,2,3)$�����ꂼ��,
$[0,6]$��$[3,5]$���
��̈�l���z�ɏ]���m���ϐ��Ƃ���.
�ߊϒl��̏ꍇ,
$\alpha=0.7$�Ƃ����ꍇ, 
$\xi>\eta$. �Ȃ��Ȃ��$\xi_{\sup}(0.7)=4.2>2.4=\eta_{\sup}(0.7)$. 
�m����̏ꍇ, $r=1$�Ƃ����ꍇ, $\xi<\eta$.
�Ȃ��Ȃ��$P\{\xi\ge 1\}=5/6<1=P\{\eta\ge 1\}$. 
���̎�����,
�ߊϒl��Ɗm������قȂ邱�Ƃ�
�Ӗ����Ă���.
\end{exap}

\subsection*{�s����}

�悭�m���Ă���悤��, �m���_�ɂ�,
�}���R�t�̕s����, �`�F�r�V�F�t�̕s����,
�w���_�[�̕s����,
�~���R�t�X�L�[�̕s����, �W�����Z���̕s�����Ȃ�
�l�X�ȕs���������݂���.
������, ���_�I�ɂ����p�I�ɂ��d�v�Ȗ�����������.

%\newshadetheorem{randomthegen}[randomthe]{�藝}
%\begin{randomthegen}
\begin{thrm}\label{randomthegen}
$\xi$���m���ϐ�, $f$
��񕉂̉��֐��Ƃ���. 
$f$ ����֐�($f(x)=f(-x)$ $\forall x\in R$),
$[0,\infty)$��ő����֐��Ȃ��, 
�C�ӂ̐�$t>0$�ɑ΂���, ���������藧��.
\begin{equation}
P\{|\xi|\ge t\}\le\frac{E[f(\xi)]}{f(t)}.
\end{equation}
\end{thrm}
%\end{randomthegen}
\proof $P\{|\xi|\ge f^{-1}(r)\}$
��, $[0,\infty)$���$r$�̒P�������֐��ɂȂ邱�Ƃ͖��炩. 
$f(\xi)$�̔񕉐�����
$$\begin{array}{rl}
E[f(\xi)]\!\!\!\!&=\displaystyle\int_0^{+\infty}P\{f(\xi)\ge r\}
\int d r\\[0.4cm]
&=\displaystyle\int_0^{+\infty}P\{|\xi|\ge f^{-1}(r)\}\int d r\\[0.4cm]
&\ge\displaystyle\int_0^{f(t)}P\{|\xi|\ge f^{-1}(r)\}\int d r\\[0.4cm]
&\ge\displaystyle\int_0^{f(t)}\int d r\cdot P\{|\xi|
\ge f^{-1}(f(t))\}\\[0.4cm]
&=f(t)\cdot P\{|\xi|\ge t\}
\end{array}$$
�����, ���߂�ׂ��s�����͏ؖ����ꂽ.


%\newshadetheorem{randomthemar}[randomthe]{�藝}
\begin{thrm}
%\begin{randomthemar}
(�}���R�t�̕s����\index
{�܂邱�ӂ̂ӂƂ�����@�}���R�t�̕s����!������ւ񂷂�@--�m���ϐ�})\label
{:markov} 
$\xi$���m���ϐ��Ƃ���.
�C�ӂ̗^����ꂽ��
$t>0$��$p>0$�ɑ΂���, 
\begin{equation}
P\{|\xi|\ge t\}\le\frac{E[|\xi|^p]}{t^p}.
\end{equation}
\end{thrm}
%\end{randomthemar}
\proof �藝 \ref{randomthegen}��$f(x)=|x|^p$�Ƃ���΂悢.


%\newshadetheorem{randomtheche}[randomthe]{�藝}
\begin{thrm}
%\begin{randomtheche}
(�`�F�r�V�F�t�̕s����\index
{�����т����ӂ̂ӂƂ�����@�`�F�r�V�F�t�̕s����!������ւ񂷂�@--�m���ϐ�}
)\label{:chebyshev} $\xi$��
���U$V[\xi]$�����m���ϐ��Ƃ���. 
���̂Ƃ�, �C�ӂ̗^����ꂽ��$t>0$
�ɑ΂���, 
\begin{equation}
P\left\{|\xi-E[\xi]|\ge t\right\}\le\frac{V[\xi]}{t^2}.
\end{equation}
\end{thrm}
%\end{randomtheche}
\proof �藝 \ref{randomthegen}�ɂ�����
�m���ϐ�$\xi$��$\xi-E[\xi]$, $f(x)=x^2$�Ƃ����
�悢.


%\newshadetheorem{randomthehol}[randomthe]{�藝}
%\begin{randomthehol}
\begin{thrm}\label{randomthehol}
(�w���_�[�̕s����\index
{�ւ邾�[�̂ӂƂ�����@�w���_�[�̕s����!������ւ񂷂�@--�m���ϐ�})\label
{:holder} $p$, $q$��
$1/p+1/q=1$�𖞂���2�̐��̎���, $\xi$, $\eta$��
$E[|\xi|^p]<\infty$,
$E[|\eta|^q]<\infty$�𖞂����m���ϐ��Ƃ���. 
���̂Ƃ�, ���������藧��.
\begin{equation}\label{randomthehol1}
E[|\xi\eta|]\le\sqrt[p]{E[|\xi|^p]}\sqrt[q]{E[|\eta|^q]}.
\end{equation}
%It is a Cauchy-Schwartz inequality when $p=q=2$, i.e.,
%\begin{equation}
%E[|\xi\eta|]\le\sqrt{E[\xi^2]E[\eta^2]}.
%\end{equation}
\end{thrm}
%\end{randomthehol}
\proof ����, $\xi$��
$\eta$�̏��Ȃ��Ƃ�1���قƂ�Ǌm����0�Ȃ��,
�s�����͖��炩�ɐ��藧��. ������,
$E[|\xi|^p]>0$, $E[|\eta|^q]>0$�����肷��. 
�֐�$f(x,y)=\sqrt[p]{x}\sqrt[q]{y}$��,
$D=\{(x,y):x\ge 0,y\ge 0\}$��ŉ��֐��ɂȂ邱�Ƃ͗e�Ղɂ킩��. 
�䂦��, �C�ӂ̓_ $(x_0,y_0)(x_0>0, y_0>0)$�ɑ΂���, 
�����𖞂���2�̎���$a,b$�����݂���.
$$f(x,y)-f(x_0,y_0)\le a(x-x_0)+b(y-y_0),\quad \forall (x,y)\in D.$$
$x_0=E[|\xi|^p]$, $y_0=E[|\eta|^q]$, $x=|\xi|^p$,
$y=|\eta|^q$�Ƃ����, ����������.
$$f(|\xi|^p,|\eta|^p)-f(E[|\xi|^p],E[|\eta|^p])\le 
a(|\xi|^p-E[|\xi|^p])+b(|\eta|^p-E[|\eta|^p]).$$
���ӂ̊��Ғl���Ƃ��,
$$E[f(|\xi|^p,|\eta|^q)]\le f(E[|\xi|^p],E[|\eta|^q]).$$
�䂦��, �s����(\ref{randomthehol1})�͐��藧��.


%\newshadetheorem{randomthemin}[randomthe]{�藝}
%\begin{randomthemin}
\begin{thrm}
(�~���R�t�X�L�[�̕s����\index
{�݂񂱂ӂ����[�̂ӂƂ�����@�~���R�t�X�L�[�̕s����!������ւ񂷂�@--�m��
�ϐ�})\label{:minkowski} $p$��$p\ge 1$�𖞂�������, 
$\xi$��$\eta$��
$E[|\xi|^p]<\infty$, $E[|\eta|^p]<\infty$�𖞂����m���ϐ��Ƃ���. ���̂Ƃ�,
\begin{equation}\label{randomthemin}
\sqrt[p]{E[|\xi+\eta|^p]}\le\sqrt[p]{E[|\xi|^p]}+\sqrt[p]{E[|\eta|^p]}.
\end{equation}
\end{thrm}
%\end{randomthemin}
\proof ����, $\xi$��
$\eta$�̏��Ȃ��Ƃ�1���قƂ�Ǌm����0�Ȃ��,
�s�����͖��炩�ɐ��藧��. ������, $E[|\xi|^p]>0$,
$E[|\eta|^p]>0$�����肷��. 
�֐�$f(x,y)=(\sqrt[p]{x}+\sqrt[p]{y})^p$��,
$D=\{(x,y):x\ge 0,y\ge 0\}$��ŉ��֐��ɂȂ邱�Ƃ͗e�Ղɂ킩��. 
�䂦��, �C�ӂ̓_ $(x_0,y_0)(x_0>0, y_0>0)$�ɑ΂���, 
�����𖞂���2�̎���$a,b$�����݂���.
$$f(x,y)-f(x_0,y_0)\le a(x-x_0)+b(y-y_0),\quad \forall (x,y)\in D.$$
$x_0=E[|\xi|^p]$, $y_0=E[|\eta|^p]$, $x=|\xi|^p$,
$y=|\eta|^p$�Ƃ����, ����������.
$$f(|\xi|^p,|\eta|^p)-f(E[|\xi|^p],E[|\eta|^p])\le 
a(|\xi|^p-E[|\xi|^p])+b(|\eta|^p-E[|\eta|^p]).$$
���ӂ̊��Ғl���Ƃ��
$$E[f(|\xi|^p,|\eta|^p)]\le f(E[|\xi|^p],E[|\eta|^p]).$$
�䂦��, �s����(\ref{randomthemin})�͐��藧��.


\begin{thrm}
%\begin{randomthejen}
(�W�����Z���̕s����\index
{����񂹂�̂ӂƂ�����@�W�����Z���̕s����!������ւ񂷂�@--�m���ϐ�})
\label{:jen} $\xi$���m���ϐ�,
$f:R\to R$��ʊ֐��Ƃ���. ����,
$E[\xi]$��$E[f(\xi)]$
���L���Ȃ��
\begin{equation}
f(E[\xi])\le E[f(\xi)].
\end{equation}
����, $f(x)=|x|^p$, $p\ge 1$�̂Ƃ�, $|E[\xi]|^p\le E[|\xi|^p]$��������.
\end{thrm}
%\end{randomthejen}
\proof $f$�͓ʊ֐��Ȃ̂Ŋe$y$�ɑ΂���, 
$f(x)-f(y)\ge k\cdot (x-y)$�𖞂�����$k$�����݂���. 
$x$��$\xi$��, $y$��$E[\xi]$��
��������, 
$$f(\xi)-f(E[\xi])\ge k\cdot (\xi-E[\xi]).$$
���ӂ̊��Ғl���Ƃ�Ǝ���������.
$$E[f(\xi)]-f(E[\xi])\ge k\cdot(E[\xi]-E[\xi])=0$$
�㎮����, ���߂�ׂ��s������������.


\subsection*{�����֐�}
\label{:cfrandom1}
�����֐��͏d�v�ȊT�O�ł���, �m���_�ɂ����đ�؂Ȗ���
���ʂ���. ���̐߂ł�, �����֐�,
���]����, ��v�藝, �A���藝���Љ��.

%\newtheorem{randomchar}[randomdef]{��`}
%\begin{randomchar}
\begin{defn}
$\xi$���m�����z$\Phi$
�����m���ϐ��Ƃ���. ���̂Ƃ�, �֐�
\begin{equation}
\varphi(t)=\int_{-\infty}^{+\infty}e^{itx}\int d\Phi(x),\quad t\in R
\end{equation}
��$\xi$
�̓����֐�\index
{�Ƃ��������񂷂�@�����֐�!������ւ񂷂�@--�m���ϐ�}�Ƃ�΂��. �A��, 
$e^{itx}=\cos tx+i\sin tx$,
$i=\sqrt{-1}$.
\end{defn}
%\end{randomchar}
�����֐�$\varphi$��,
�m�����z$\Phi$�̃t�[���G�ϊ�\label{:ft}�ł��邱�Ƃ͖��炩�ł���.

\begin{exap} 
$\xi$��, ���̊m�����z�����m���ϐ��Ƃ���.
$$\Phi(x)=\left\{\begin{array}{ll}
0,&\mbox{if }x<0\\[0.1cm]
1,&\mbox{if }x\ge 0.\end{array}\right.$$ �m���ϐ���,
�P���I��``0''�ł���. �����֐���
$$\varphi(t)\equiv 1,\quad\forall t\in R.$$
\end{exap}

\begin{exap} 
$\xi$��$[a,b]$��̈�l���z�ɏ]���m���ϐ��Ƃ���Ƃ�,
�����֐���
$$\varphi(t)=\frac{e^{itb}-e^{ita}}{(b-a)t},\quad t\not=0.$$
\end{exap}

\begin{exap} 
$\xi$���w�����z${\cal EXP}(\beta)$�ɏ]���m���ϐ��Ƃ���Ƃ�,
�����֐���
$$\varphi(t)=\frac{1+it\beta}{1+t^2\beta^2},\quad\forall t\in R.$$
\end{exap}


\begin{exap} 
$\xi$�𐳋K���z${\cal N}(\mu,\sigma^2)$�ɏ]���m���ϐ��Ƃ���Ƃ�,
�����֐���
$$\varphi(t)=\exp\left(it\mu-\frac{\sigma^2t^2}{2}\right),
\quad\forall t\in R.$$
\end{exap}


%\newshadetheorem{randomthechar}[randomthe]{�藝}
%\begin{randomthechar}
\begin{thrm}\label{randomthechar}
$\xi$���m���ϐ�, $\varphi$������
�����֐��Ƃ���Ƃ�,\\
(a) $\varphi(0)=1$;\\
(b) $|\varphi(t)|\le \varphi(0)$;\\
(c) $\varphi(-t)=\overline\varphi(t)(\varphi(t)$�̋��𕡑f��$)$;\\
(d) $\varphi(t)$��, $R$��ň�l�A���֐�.
\end{thrm}
%\end{randomthechar}
\proof
(a)�͖��炩. (b), (c)�͎��̂悤�ɏؖ������.
$$|\varphi(t)|\le\int_{-\infty}^{+\infty}\left|e^{itx}\right|\int d\Phi(x)
=\int_{-\infty}^{+\infty}\int d\Phi(x)=1=\varphi(0),$$
$$\begin{array}{rl}
\overline\varphi(t)\!\!\!\!&=\displaystyle\int_{-\infty}^{+\infty}\cos 
t x\int d\Phi(x)
-i\int_{-\infty}^{+\infty}\sin t x\int d\Phi(x)\\[0.5cm]
&=\displaystyle\int_{-\infty}^{+\infty}\cos (-t)x\int d\Phi(x)
+i\int_{-\infty}^{+\infty}\sin (-t)x\int d\Phi(x)=\varphi(-t).\end{array}$$
(d) ����, $\varphi$����l�A���ł��邱�Ƃ�����. ���̊֌W������
$$e^{i(t+h)x}-e^{itx}=2ie^{i(t+h/2)x}\sin\frac{hx}{2},$$
����������.
$$\left|\varphi(t+h)-\varphi(t)\right|\le\int_{-\infty}^{+\infty}\left|2ie^
{i(t+h/2)x}\sin\frac{h x}{2}\right|\int d\Phi(x)
\le 2\int_{-\infty}^{\infty}\left|\sin\frac{h x}{2}\right|\int d\Phi(x)$$
�Ō�̎���, $t$�ƓƗ��ł���. Since $\sin(hx)/2\to 0(h\to 0)$�ł��邩��,
���x�[�O�̗D�����藝���,
$$\int_{-\infty}^{+\infty}\left|\sin\frac{hx}{2}\right|\int d\Phi(x)
\rightarrow 0\;(h\to 0)\;{\rm a.s.}$$
�䂦��, $\varphi$��$R$��ň�l�A��.

%\newshadetheorem{randomtheindsum}[randomthe]{�藝}
%\begin{randomtheindsum}
\begin{thrm}\label{randomtheindsum}
$\xi_1,\xi_2,\cdots,\xi_n$��Ɨ��Ȋm���ϐ�,
$\xi=\xi_1+\xi_2+\cdots+\xi_n$�Ƃ���. ���̂Ƃ�,
$\xi$�̓����֐���,
$\xi_1,\xi_2,\cdots,\xi_n$�̓����֐��̒��ςɂȂ�.
\end{thrm}
%\end{randomtheindsum}
\proof 
$n=2$�̏ꍇ�̂ݏؖ�����. $\Phi_1,\Phi_2$���m�����z,
$\varphi_1,\varphi_2$�����ꂼ��,
$\xi_1,\xi_2$�̓����֐��Ƃ���. ���̂Ƃ�,
$\xi=\xi_1+\xi_2$�̊m�����z��
$$\Phi(x)=\int_{-\infty}^{+\infty}\Phi_1(x-y)\int d\Phi_2(y),
\quad x\in R.$$
�䂦��, $\xi=\xi_1+\xi_2$�̓����֐���
$$\varphi(t)=\int_{-\infty}^{+\infty}e^{itx}\int d\Phi(x)
=\int_{-\infty}^{+\infty}\left(\int_{-\infty}^{+\infty}e^{itx}\int d\Phi_1
(x)\right)
e^{ity}\int d\Phi_2(y)=\varphi_1(t)\varphi_2(t).$$ 
�藝�͏ؖ����ꂽ.

%\newshadetheorem{randomtheinversion}[randomthe]{�藝}
%\begin{randomtheinversion}
\begin{thrm}\label{randomtheinversion}(���]����)
$\xi$���m�����z $\Phi$�Ɠ����֐�$\varphi$
�����m���ϐ��Ƃ���. ���̂Ƃ�,
$\Phi$�̔C�ӂ̘A���ȓ_$a,b(a<b)$�ɑ΂���,
���������藧��.
\begin{equation}
\Phi(b)-\Phi(a)=\lim\limits_{T\rightarrow+\infty}\frac{1}{2\pi}
\int^T_{-T}\frac{e^{-iat}-e^{-ibt}}{it}\varphi(t)\int d t
\end{equation}
\end{thrm}
%\end{randomtheinversion}
\proof 
$\displaystyle\frac{e^{-iat}-e^{-ibt}}{it}=\int^b_ae^{iut}\int d u$�Ȃ̂�,
$$\begin{array}{rl}
f(T)\!\!\!\!&=\displaystyle\frac{1}{2\pi}\int^T_{-T}\frac{e^{-iat}-
e^{-ibt}}{it}\varphi(t)\int d t
=\displaystyle\frac{1}{2\pi}\int^T_{-T}\varphi(t)\int d t\int^b_a 
e^{-iut}\int d u\\[0.4cm]
&=\displaystyle\frac{1}{2\pi}\int^b_a\int d u\int^T_{-T} 
e^{-iut}\varphi(t)\int d t
=\frac{1}{2\pi}\int^{+\infty}_{-\infty}\int d\Phi(x)\int^b_a\int d 
u\int^T_{-T} e^{i(x-u)t}\int d t\\[0.4cm]
&=\displaystyle\int^{+\infty}_{-\infty}g(T,x)\int d\Phi(x)
\end{array}$$
�A��,
$$g(T,x)=\displaystyle\frac{1}{\pi}\int^{T(x-a)}_{T(x-b)}
\frac{\sin v}v\int d v.$$
�ÓT�I�ȃf�B�N�����̌������
$$\frac{1}{\pi}\int^{\beta}_{\alpha}\frac{\sin v}v\int d v\to 1 
\mbox{ as }\alpha\to-\infty,~\beta\to+\infty$$
�㎮��, $g(T,x)$����l�L�E�ł��邱��
�������Ă���. �����,
$$\lim\limits_{T\to+\infty}g(T,x)=\frac{1}{\pi}
\lim\limits_{T\to+\infty}\int^{T(x-a)}_{T(x-b)}\frac{\sin v}{v}
\int d v=\left\{
\begin{array}{cl}
1,&\mbox{if }a<x<b\\[0.1cm]0.5,&\mbox{if }x=a~{\rm or}~b\\[0.1cm] 0,&\mbox{otherwise.}
\end{array}\right.$$
���x�[�O�̗D�����藝���,
$$\lim\limits_{T\to+\infty}f(T)=\int^{+\infty}_{-\infty}
\lim\limits_{T\to+\infty}g(T,x)\int d\Phi(x)=\Phi(b)-\Phi(a).$$
�藝�͏ؖ����ꂽ.
%\newshadetheorem{randomtheinversion1}[randomthe]{�藝}
%\begin{randomtheinversion1}
\begin{thrm}\label{randomtheinversion1}(��v�藝)
$\Phi_1$��$\Phi_2$ ��
���ꂼ��,
�����֐�$\varphi_1$��$\varphi_2$�����m�����z�Ƃ���. 
���̂Ƃ�, $\varphi_1=\varphi_2$�����藧���߂�
�K�v�\��������
$\Phi_1=\Phi_2$.
\end{thrm}
%\end{randomtheinversion1}
\proof 
$\Phi_1=\Phi_2$�Ȃ��, ��`���璼����
$\varphi_1=\varphi_2$������.
�t��, $a,b$ $(a<b)$�� 
$\Phi_1$��$\Phi_2$�̗����̘A���ȓ_�Ƃ���.
���]��������,
$$\Phi_1(b)-\Phi_1(a)=\Phi_2(b)-\Phi_2(a).$$
$a\to-\infty$�Ƃ����, 
$\Phi_1(a)\to 0$, $\Phi_2(a)\to 0$�Ȃ̂�
$\Phi_1(b)=\Phi_2(b)$�����藧��.
�m�����z�̘A���ȓ_��,
$R$�ɂ����Ă�����Ƃ����f���Ȃ̂�,
�藝~\ref{randomdiscon}
���$\Phi_1=\Phi_2$�����藧��.



������,�����֐��ɑ΂���A���藝���ؖ������ɂ�����.
�����̂���ǎ҂�,�m���_�Ɋւ���{���Q�Ƃ��ꂽ��.
%\newshadetheorem{randomthedc1}[randomthe]{�藝}
%\begin{randomthedc1}
\begin{thrm}\label{randomthedc1}(�A���藝)
$\Phi, \Phi_1, \Phi_2, \cdots$���m�����z�̗�,
$\varphi, \varphi_1, \varphi_2, \cdots$��
���̓����֐��Ƃ��� .
���̂Ƃ�, $\{\Phi_n\}$��
$\Phi$�̔C�ӂ̘A���ȓ_��
$\Phi$�Ɏ������邽�߂̕K�v�\��������,
�C�ӂ̗L�����$[c, d]$��$\{\varphi_n\}$��
$\varphi$�Ɉ�l�������邱��.
\end{thrm}
%\end{randomthedc1}


\subsection{�����T�O}

�m���ϐ��̎����ɂ�, ���$4$�̎����T�O�����݂���:
�T����(a.s.), �m������, ���ώ���, ���z����.


\begin{table}[htb]
\caption{�����T�O�̊֌W}
\begin{center}\begin{tabular}{rcccc}\hline \\
%\raisebox{-0.2 cm}[0 pt]
%{\shadowbox{�T����}}$\!\!\!$\\
%&$\searrow$&\shadowbox{�m��}&\raisebox{-0.2cm}[0pt]{$\rightarrow$}&
%\shadowbox{���z}\\
%&$\nearrow$&\shadowbox{����}&&\shadowbox{����}\\
%\raisebox{0.2cm}[0pt]{\shadowbox{���ώ���}}$\!\!\!$\\ \hline
\end{tabular}
\end{center}
\end{table}

%\newtheorem{randomdef2}[randomdef]{��`}
%\begin{randomdef2}
\begin{defn}\label{:asc}\label{:convas}
$\xi,\xi_1,\xi_2,\cdots$���m�����
$(\Omega,\mathcal{A},P)$��Œ�`���ꂽ�m���ϐ��Ɖ��肷��. 
����$\{\xi_i\}$��
$\xi$�ɊT����\index{�������イ����@�T����}����Ƃ�,
�S�Ă�$\omega \in A$�ɑ΂���,
�����𖞂����W��$A\in\mathcal{A}(P\{A\}=1)$
�����݂��邱��.
\begin{equation}
\lim\limits_{i\rightarrow\infty}|\xi_i(\omega)-\xi(\omega)|=0
\end{equation}
���̏ꍇ, $\xi_i\rightarrow\xi$, a.s. �Ə���.
\end{defn}
%\end{randomdef2}

%\newtheorem{randomdefcip}[randomdef]{��`}
%\begin{randomdefcip}
\begin{defn}\label{:convpro}
$\xi,\xi_1,\xi_2,\cdots$���m�����
$(\Omega,\mathcal{A},P)$��Œ�`���ꂽ�m���ϐ��Ɖ��肷��.
���� $\{\xi_i\}$��$\xi$��
�m������\index{��������イ����@�m������}����Ƃ�,
�S�Ă�$\varepsilon>0$�ɑ΂���
\begin{equation}
\lim_{i\rightarrow\infty} P\left\{|\xi_i-\xi|\ge\varepsilon\right\}=0
\end{equation}
\end{defn}
%\end{randomdefcip}

%\newtheorem{randomdefcim}[randomdef]{��`}
%\begin{randomdefcim}
\begin{defn}\label{:convmean}
$\xi,\xi_1,\xi_2,\cdots$��L����
���Ғl�����m����� 
$(\Omega,\mathcal{A},P)$��̊m���ϐ��Ɖ��肷��. 
����$\{\xi_i\}$��,
$\xi$�ɕ��ώ���\index{�ւ����񂵂イ����@���ώ���}����Ƃ� 
\begin{equation}
\lim_{i\rightarrow\infty}E[|\xi_i-\xi|]=0.
\end{equation}
\end{defn}
%\end{randomdefcim}

%\newtheorem{randomdefd}[randomdef]{��`}
%\begin{randomdefd}
\begin{defn}\label{:convdis}
$\Phi,\Phi_1,\Phi_2,\cdots$��, ���ꂼ��m���ϐ�
$\xi,\xi_1,\xi_2,\cdots$�̊m�����z�Ɖ��肷��. 
$\{\xi_i\}$��$\xi$��
���z����\index{�Ԃ�Ղ��イ����@���z����}����Ƃ�, 
$\Phi$�̑S�Ă̘A���_$x$ �ɑ΂���,
$\Phi_i(x)\to\Phi(x).$ 
\end{defn}
%\end{randomdefd}

\subsubsection*{�T���� vs.~�m������}

%\newshadetheorem{randomthecri}[randomthe]{�藝}
%\begin{randomthecri}
\begin{thrm}\label{randomthecri}
$\xi,\xi_1,\xi_2,\cdots$���m�����
$(\Omega,\mathcal{A},P)$��Œ�`���ꂽ�m���ϐ��Ɖ��肷��. ���̂Ƃ�,
$\{\xi_i\}$��$\xi$�ɊT�������邽�߂�
�K�v�\��������, �S�Ă�$\varepsilon>0$�ɑ΂���, ���������藧����.
\begin{equation}
\lim\limits_{n\rightarrow\infty}P\left\{\bigcup\limits_{i=n}^{\infty}
\{|\xi_i-\xi|\ge\varepsilon\}\right\}=0.
\end{equation}
\end{thrm}
%\end{randomthecri}
\proof �S�Ă�$i\ge 1$��$\varepsilon>0$�ɑ΂���,
�������`����.
$$\begin{array}{l}
X=\left\{\omega\in\Omega\bigm|\lim\limits_{i\rightarrow\infty}\xi_i(\omega)
\not=\xi(\omega)\right\},\\[0.3cm]
X_i(\varepsilon)=\left\{\omega\in\Omega\bigm||\xi_i(\omega)-\xi(\omega)|\ge
\varepsilon\right\}.
\end{array}$$
�����͖��炩.
$$X=\bigcup\limits_{\varepsilon>0}\left(\bigcap_{n=1}^{\infty}\bigcup
\limits_{i=n}^{\infty}X_i(\varepsilon)\right).$$
$\xi_i\rightarrow\xi$, a.s.��
���邽�߂̕K�v�\��������, $P\{X\}=0$. �܂�,
$\xi_i\rightarrow\xi$, a.s.
�ł��邽�߂̕K�v�\��������, �S�Ă�$\varepsilon>0$�ɑ΂���
$$P\left\{\bigcap_{n=1}^{\infty}\bigcup\limits_{i=n}^{\infty}X_i
(\varepsilon)\right\}=0$$
������
$$\bigcup\limits_{i=n}^{\infty}X_i(\varepsilon)\downarrow
\bigcap_{n=1}^{\infty}\bigcup\limits_{i=n}^{\infty}X_i(\varepsilon),$$
�m���A���藝����
$$\lim_{n\rightarrow\infty}P\left\{\bigcup\limits_{i=n}^{\infty}X_i
(\varepsilon)\right\}
=P\left\{\bigcap_{n=1}^{\infty}\bigcup\limits_{i=n}^{\infty}X_i
(\varepsilon)\right\}=0.$$
�藝�͏ؖ����ꂽ.
%\newshadetheorem{randomtheasp}[randomthe]{�藝}
%\begin{randomtheasp}
\begin{thrm}\label{randomtheasp}
$\xi,\xi_1,\xi_2,\cdots$���m�����
$(\Omega,\mathcal{A},P)$��Œ�`���ꂽ�m���ϐ��Ɖ���
����. ����,
$\{\xi_i\}$��$\xi$�ɊT��������Ȃ��, 
$\{\xi_i\}$��$\xi$�Ɋm����������.
\end{thrm}
%\end{randomtheasp}
\proof �T�������邱�Ƃ�, �藝\ref{randomthecri}
����, �S�Ă�$\varepsilon>0$�ɑ΂���, �������]��. 
$$\lim\limits_{n\rightarrow\infty}P\left\{\bigcup\limits_{i=n}^{\infty}
\{|\xi_i-\xi|\ge\varepsilon\}\right\}=0.$$
�S�Ă�$n\ge 1$�ɑ΂���, 
$$\{|\xi_n-\xi|\ge\varepsilon\}\subset
\bigcup\limits_{i=n}^{\infty}\{|\xi_i-\xi|\ge\varepsilon\}.$$
�䂦��, $P\{|\xi_n-\xi|\ge\varepsilon\}\to 0(n\to\infty)$�����藧��.
�藝�͏ؖ����ꂽ.

\begin{exap} �m���������邱�Ƃ�, �T�������邱�Ƃ��Ӗ����Ȃ�.
�Ⴆ��, $\Omega=[0,1]$, $\mathcal{A}$�� 
$\Omega$��̃{�������@��, $P$�����x�[�O���x�Ƃ���. ���̂Ƃ�,
$(\Omega,\mathcal{A},P)$�͊m����ԂɂȂ�. �C�ӂ�
���̐���$i$�ɑ΂���, $i=2^j+k$
�𖞂�������$j$�����݂���.
�A��, $k$��0��$2^j-1$�̊Ԃ̐���. ������,
$\Omega$��̊m���ϐ���$i=1,2,\cdots$�ɑ΂���,
�����Œ�`����.
$$\xi_i(\omega)=\left\{\begin{array}{ll}
1,&\mbox{if }{k}/{2^j}\le\omega\le (k+1)/{2^j}\\[0.2cm]
0,&\mbox{otherwise}\end{array}\right.$$
$\xi=0$. �C�ӂ̐�$\varepsilon>0$�ɑ΂���, 
$i\to\infty$�̂Ƃ�, ���������藧��.
$$P\left\{|\xi_i-\xi|\ge\varepsilon\right\}=\frac{1}{2^{j}}\rightarrow 0$$
�܂�, ����$\{\xi_i\}$��
$\xi$�Ɋm����������.
������, �C�ӂ�$\omega\in[0,1]$�ɑ΂���, 
$\omega$���܂ދ�� $[k/2^j,(k+1)/2^j]$�͖����ɑ��݂���. �����,
$\xi_i(\omega)\not\to 0(i\to\infty)$. �����������, 
����$\{\xi_i\}$��$\xi$�ɊT�������Ȃ�.
\end{exap}

\subsubsection*{�m������ vs. ���ώ���}

%\newshadetheorem{randomthemp}[randomthe]{�藝}
%\begin{randomthemp}
\begin{thrm}
$\xi,\xi_1,\xi_2,\cdots$���m�����
$(\Omega,\mathcal{A},P)$��Œ�`���ꂽ�m���ϐ���
���肷��. ����,
����$\{\xi_i\}$��$\xi$�ɕ��ώ�������Ȃ��, 
$\{\xi_i\}$��$\xi$�Ɋm����������.
\end{thrm}
%\end{randomthemp}
\proof �}���R�t�̕s��������, �C�ӂ�$\varepsilon>0$�ɑ΂���,
���������藧��.
$$P\left\{|\xi_i-\xi|\ge\varepsilon\right\}\le
\frac{E[|\xi_i-\xi|]}{\varepsilon}\rightarrow 0 (i\rightarrow\infty).$$
�䂦��,
$\{\xi_i\}$��$\xi$�Ɋm����������.

\begin{exap}
�m���������邱�Ƃ�, ���ώ������邱�Ƃ��Ӗ����Ȃ�.
�Ⴆ��, $\Omega=\{\omega_1,\omega_2,\cdots\}$,
$P\{\omega_j\}=1/2^j$ $j=1,2,\cdots$, �܂�, $i=1,2,\cdots$�ɑ΂���,
�m���ϐ��������Œ�`����.
$$\xi_i\{\omega_j\}=\left\{\begin{array}{ll}2^i,&\mbox{if }j=i\\
0,&\mbox{otherwise}\end{array}\right.$$
$\xi=0$. �C�ӂ̐�$\varepsilon>0$�ɑ΂���, 
$$P\left\{|\xi_i-\xi|\ge\varepsilon\right\}=\frac{1}{2^{i}}\rightarrow 0.$$
�܂�, ����$\{\xi_i\}$��
$\xi$�Ɋm����������.
������, 
$$E\left[|\xi_i-\xi|\right]=2^i\cdot\frac{1}{2^i}=1.$$
�܂�, ����$\{\xi_i\}$��
$\xi$�ɕ��ώ������Ȃ�.
\end{exap}


\subsubsection*{�T���� vs. ���ώ���}

\begin{exap} �T�������邱�Ƃ�, ���ώ������邱�Ƃ��Ӗ����Ȃ�. 
�Ⴆ��, $\Omega=\{\omega_1,\omega_2,\cdots\}$,
$P\{\omega_j\}=1/2^j$ $j=1,2,\cdots$, �܂�, 
$i=1,2,\cdots$�ɑ΂���, �m���ϐ��������Œ�`����.
$$\xi_i\{\omega_j\}=\left\{\begin{array}{ll}2^i,&\mbox{if }j=i\\
0,&\mbox{otherwise}\end{array}\right.$$ 
$\xi=0$. ���̂Ƃ�,
$\{\xi_i\}$��$\xi$�ɊT��������. ������,
����$\{\xi_i\}$��, $\xi$�ɕ��ώ������Ȃ�.
\end{exap}

\begin{exap} ���ώ������邱�Ƃ�, �T�������邱�Ƃ��Ӗ����Ȃ�. 
�Ⴆ��, $\Omega=[0,1]$, $\mathcal{A}$��
$\Omega$��̃{�������@��, $P$�����x�[�O���x�Ƃ���. ���̂Ƃ�,
$(\Omega,\mathcal{A},P)$�͊m����ԂɂȂ�. �C�ӂ�
���̐��� $i$�ɑ΂���, $i=2^j+k$
�𖞂�������$j$�����݂���.
�A��, $k$��0��$2^j-1$
�̊Ԃ̐���. 
$\Omega$��̊m���ϐ���$i=1,2,\cdots$�ɑ΂���,
�����Œ�`����. 
$$\xi_i(\omega)=\left\{\begin{array}{ll}
1,&\mbox{if }{k}/{2^j}\le\omega\le (k+1)/{2^j}\\[0.2cm]
0,&\mbox{otherwise}\end{array}\right.$$ 
$\xi=0$. ���̂Ƃ�
$$E\left[|\xi_i-\xi|\right]=\frac{1}{2^j}\rightarrow 0.$$
�܂�, ����$\{\xi_i\}$��$\xi$�ɕ��ώ�������.
������, $\{\xi_i\}$��$\xi$�ɊT�������Ȃ�.
\end{exap}

\subsubsection*{�m������ vs. ���z����}

%\newshadetheorem{randomthepd}[randomthe]{�藝}
%\begin{randomthepd}
\begin{thrm}\label{randomthepd}
$\xi,\xi_1,\xi_2,\cdots$���m����� $(\Omega,\mathcal{A},P)$���
��`���ꂽ�m���ϐ��Ɖ��肷��. ����$\{\xi_i\}$��$\xi$
�Ɋm����������Ȃ��, $\{\xi_i\}$��$\xi$�ɕ��z��������.
\end{thrm}
%\end{randomthepd}
\proof $x$�𕪕z$\Phi$
�̔C�ӂ̘A���ȓ_�Ƃ���. �C�ӂ�$y>x$�ɑ΂���, 
$$\{\xi_i\le x\}=\{\xi_i\le x,\xi\le y\}\cup\{\xi_i\le x,\xi>y\}\subset
\{\xi\le y\}\cup\{|\xi_i-\xi|\ge y-x\}.$$�㎮����
$$\Phi_i(x)\le\Phi(y)+P\{|\xi_i-\xi|\ge y-x\}.$$
$\{\xi_i\}$��$\xi$�Ɋm����������̂�,
$P\{|\xi_i-\xi|\ge y-x\}\rightarrow 0$.
�䂦��, �C�ӂ�$y>x$�ɑ΂���,
$\limsup_{i\rightarrow\infty}\Phi_i(x)\le\Phi(y)$�����藧��.
$y\rightarrow x$�Ƃ����, 
\begin{equation}\label{randomthepd1}
\limsup_{i\rightarrow\infty}\Phi_i(x)\le\Phi(x).
\end{equation}
���, �C�ӂ�$z<x$�ɑ΂���, 
$$\{\xi\le z\}=\{\xi\le z,\xi_i\le x\}\cup\{\xi\le z,\xi_i>x\}\subset
\{\xi_i\le x\}\cup\{|\xi_i-\xi|\ge x-z\}$$
�㎮����
$$\Phi(z)\le\Phi_i(x)+P\{|\xi_i-\xi|\ge x-z\}.$$
$P\{|\xi_i-\xi|\ge x-z\}\rightarrow 0$�Ȃ̂�,
�C�ӂ�$z<x$�ɑ΂���, $\Phi(z)\le\liminf_{i\rightarrow\infty}
\Phi_i(x)$�����藧��.$z\rightarrow x$�Ƃ����, 
\begin{equation}\label{randomthepd2}
\Phi(x)\le\liminf_{i\rightarrow\infty}\Phi_i(x).
\end{equation}
(\ref{randomthepd1}), (\ref{randomthepd2})����
$\Phi_i(x)\rightarrow\Phi(x)$. 
�藝�͏ؖ����ꂽ.

\begin{exap} ���z�������邱�Ƃ�, �m���������邱�Ƃ��Ӗ����Ȃ�.  
�Ⴆ��, $\Omega=\{\omega_1,\omega_2\}$�Ǝ������߂�.
$$P\{\omega\}=\left\{\begin{array}{ll}1/2,&\mbox{if }\omega=\omega_1\\
1/2,&\mbox{if }\omega=\omega_2,\end{array}\right.\quad
\xi(\omega)=\left\{\begin{array}{cl}-1,&\mbox{if }\omega=\omega_1\\
1,&\mbox{if }\omega=\omega_2.\end{array}\right.$$
�܂�,�S�Ă�$i$�ɑ΂���, $\xi_i=-\xi$����`����. 
$\xi_i$��$\xi$�͓��ꕪ�z�ɏ]���̂�
$\{\xi_i\}$��$\xi$�ɕ��z��������. ������,
�C�ӂ̐�$\varepsilon>0$�ɑ΂���$P\{|\xi_i-\xi|>\varepsilon\}=
P\{\Omega\}=1$. �܂�, ����$\{\xi_i\}$��$\xi$�Ɋm���������Ȃ�.
\end{exap}


\subsection{�吔�̖@��}

�吔�̖@���ɂ�$2$
�̃^�C�v������: (a) �m�������������吔�̎�@��; (b) �T����������
�吔�̋��@��. �������Љ�邽�߂�,
���̐߂ł�, �e$n$�ɑ΂���, ��������������.
\begin{equation}
S_n=\xi_1+\xi_2+\cdots+\xi_n.
\end{equation}

\subsubsection*{�吔�̎�@��}

%\newshadetheorem{weaklaw}[randomthe]{�藝}
%\begin{weaklaw}
\begin{thrm}
(�`�F�r�V�F�t�̑吔�̎�@��)
$\{\xi_i\}$��Ɨ���,
�K���������ꕪ�z�ł͂Ȃ��L���Ȋ��Ғl�����m���ϐ��Ƃ���.
����, �S�Ă�$i$�ɑ΂���, $V[\xi_i]<a$�𖞂�����$a>0$�����݂���Ȃ��,
$(S_n-E[S_n])/n$��$0$�Ɋm����������. 
�܂�, �C�ӂ�$\varepsilon>0$�ɑ΂���,
\begin{equation}
\lim_{n\to\infty}P\left\{\left|\frac{S_n-E[S_n]}{n}
\right|\ge\varepsilon\right\}=0.
\end{equation}
\end{thrm}
%\end{weaklaw}
\proof �C�ӂ�$\varepsilon>0$�ɑ΂���, 
�`�F�r�V�F�t�̕s��������, $n\rightarrow\infty$�̂Ƃ�, ���������藧��.
$$P\left\{\left|\displaystyle\frac{S_n-E[S_n]}{n}\right|\ge\varepsilon
\right\}\le\frac{1}{\varepsilon^2}V\left[\frac{S_n}{n}\right]
=\displaystyle\frac{V[S_n]}{\varepsilon^2 n^2}
\le\displaystyle\frac{a}{\varepsilon^2 n}\rightarrow 0$$
�藝�͏ؖ����ꂽ.����, �m���ϐ������ʂ̊��Ғl$e$�����Ȃ��, 
$S_n/n$��$e$�Ɋm����������.

%\newshadetheorem{weaklaw1}[randomthe]{�藝}
%\begin{weaklaw1}
\begin{thrm}
$\{\xi_i\}$��L���Ȋ��Ғl$e$�����Ɨ������z��
�m���ϐ���Ƃ���.
���̂Ƃ�, $S_n/n$��$e$��
�m����������.
\end{thrm}
%\end{weaklaw1}
\proof $\xi_i$�̊��Ғl��
�L���ł��邱�Ƃ���, $E[|\xi_i|]<\beta<\infty$�𖞂��� 
$\beta>0$�����݂���. 
$\alpha$��C�ӂ̐���, 
$n$��C�ӂ̐��̐����Ƃ���. 
$i=1,2,\cdots$�ɑ΂���, �������`����.
$$\xi_i^*=\left\{\begin{array}{cl}
\xi_i,&\mbox{if }|\xi_i|<n\alpha\\[0.1cm]
0,&\mbox{otherwise}
\end{array}\right.$$
$\{\xi_i^*\}$��, iid��
�m���ϐ���ł��邱�Ƃ͖��炩.
$e^*_n$��$\xi_i^*$�̋��ʂ̊��Ғl, 
$S_n^*=\xi_1^*+\xi_2^*+\cdots+\xi_n^*$�Ƃ���.
���̂Ƃ�, ���������藧��.
$$V[\xi^*_i]\le E[\xi_i^{*2}]\le n\alpha E[|\xi_i^*|]\le n\alpha\beta,$$
$$E\left[\frac{S_n^*}{n}\right]=\frac{E[\xi_1^*]+E[\xi_2^*]+\cdots+
E[\xi_n^*]}{n}=e^*_n,$$$$V\left[\frac{S_n^*}{n}\right]=\frac{V[\xi_1^*]+
V[\xi_2^*]+\cdots+V[\xi_n^*]}{n^2}\le\alpha\beta.$$
�`�F�r�V�F�t�̕s��������,
�S�Ă�$\varepsilon>0$�ɑ΂���,
���������藧��.
\begin{equation}\label{weaklaw101}
P\left\{\left|\frac{S_n^*}{n}-e^*_n\right|\ge\varepsilon\right\}
\le\frac{1}{\varepsilon^2}
V\left[\frac{S_n^*}{n}\right]\le\frac{\alpha\beta}{\varepsilon^2}
\end{equation}
�܂�, ���x�[�O�̗D�����藝����, ���炩��
$e^*_n\to e(n\to\infty)$�����藧��. �䂦��,
$n\ge N^*$�Ȃ��, $|e^*_n-e|<\varepsilon$�ł���
����$N^*$�����݂���.
(\ref{weaklaw101})��K���������,�C�ӂ�$n\ge N^*$�ɑ΂���, 
\begin{equation}\label{weaklaw102}
P\left\{\left|\frac{S_n^*}{n}-e\right|\ge 2\varepsilon\right\}
\le P\left\{\left|\frac{S_n^*}{n}-e^*_n\right|\ge\varepsilon\right\}
\le\frac{\alpha\beta}{\varepsilon^2}.
\end{equation}
iid�ł��邱�Ƃ�, �藝~\ref{randomtheexpect123}
����, $n\to\infty$�̂Ƃ��������]��. 
$$P\{S_n^*\not=S_n\}\le\sum_{i=1}^n P\{|\xi_i|\ge n\alpha\}
\le n P\{|\xi_1|\ge n\alpha\}\to 0$$
�䂦��, �����𖞂���$N^{**}$�����݂���.
$$ P\{S_n^*\not=S_n\}\le \alpha, \quad \forall n\ge N^{**}.$$
(\ref{weaklaw102})��K���������, �S�Ă� 
$n\ge N^*\vee N^{**}$�ɑ΂���, 
$$ P\left\{\left|\frac{S_n}{n}-e\right|\ge 
2\varepsilon\right\}\le\frac{\alpha\beta}{\varepsilon^2}
+\alpha\to 0\;(\alpha\to 0).$$
$S_n/n$��$e$�Ɋm��
��������.

\subsubsection*{�吔�̋��@��\index{���������̂ق�����@�吔�̖@��}}

%\newshadetheorem{randomlemma}{���}[chapter]
%\begin{randomlemma}
\begin{lema}\label{:Toeplitz}
(�e�[�v���b�c�̕��) $\{a_i\}$
��$a_i\to a(i\to\infty)$
�𖞂���������Ƃ���Ƃ�
\begin{equation}\lim_{n\to\infty}\frac{a_1+a_2+\cdots+a_n}{n}=a.
\end{equation}
\end{lema}
%\end{randomlemma}
\proof �C�ӂ�$\varepsilon>0$�ɑ΂���, $a_i\to a$
�ł��邱�Ƃ���, �����𖞂���$N$�����݂���.
$$|a_i-a|<\frac{\varepsilon}{2},\quad\forall i\ge N.$$
�܂�, �����𖞂�������$N^*>N$
���I�Ԃ��Ƃ��ł���.
$$\frac{1}{N^*}\sum_{i=1}^N|a_i-a|<\frac{\varepsilon}{2}.$$
�����, �C�ӂ�$n>N^*$�ɑ΂���,
$$\left|\frac{1}{n}\sum_{i=1}^na_i-a\right|\le
\frac{1}{N^*}\sum_{i=1}^N|a_i-a|+\frac{1}{n}\sum_{i=N+1}^n|a_i-a|<\varepsilon.$$
$\varepsilon$��
�C�ӂȂ̂�, �e�[�v���b�c�̕�肪�]��.

%\newshadetheorem{kronecker}[randomlemma]{���}
%\begin{kronecker}
\begin{lema}\label{:kronecker}
(�N���l�b�J�[�̕��) 
$\{a_i\}$��
$\sum_{i=1}^{\infty}a_i$����������悤�Ȏ�����Ƃ���Ƃ�
\begin{equation}
\lim_{n\to\infty}\frac{a_1+2 a_2+\cdots+na_n}{n}=0.
\end{equation}
\end{lema}
%\end{kronecker}
\proof $s_0=0$, $s_i=a_1+a_2+\cdots+a_i, i=1,2,\cdots$
�Ƃ���Ƃ�
$$\frac{1}{n}\sum_{i=1}^nia_i=\frac{1}{n}\sum_{i=1}^ni(s_i-s_{i-1})=
s_n-\frac{1}{n}\sum_{i=1}^{n-1}s_i.$$
����$\{s_i\}$�̎����l��$s$�Ƃ���.
�e�[�v���b�c�̕�肩��,
$(\sum_{i=1}^{n-1}s_i)/n\to s(n\to\infty)$.
�䂦��, �N���l�b�J�[�̕��͏ؖ����ꂽ.

%\newshadetheorem{kolmogorov}[randomthe]{�藝}
%\begin{kolmogorov}
\begin{thrm}\label{:kolm}
(�R�����S���t�̕s����\index
{���������ӂ̂ӂƂ�����@�R�����S���t�̕s����}) $\xi_1,\xi_2,\cdots,\xi_n$
��L���Ȋ��Ғl�����Ɨ��Ȋm���ϐ��Ƃ���.
���̂Ƃ�, �C�ӂ� 
$\varepsilon>0$�ɑ΂���, 
\begin{equation}
P\left\{\max\limits_{1\le i\le n}|S_i-E[S_i]|\ge\varepsilon\right\}\le
\frac{V[S_n]}{\varepsilon^2}.
\end{equation}
\end{thrm}
%\end{kolmogorov}
\proof ��ʐ����������ƂȂ�,
�e$i$�ɑ΂���, $E[\xi_i]=0$������ł���. 
������, $i=2,3,\cdots,n$�ɑ΂���, �������߂�.
$$A_1=\left\{|S_1|\ge\varepsilon\right\},\quad
A_i=\left\{|S_j|<\varepsilon,j=1,2,\cdots,i-1,\mbox{ and }
|S_i|\ge\varepsilon\right\}$$
������,
�݂��̑f�ȏW��$A_1,A_2,\cdots,A_n$�̘a�W���ł��邱�Ƃ͖��炩�ł���.
$$A=\left\{\max_{1\le i\le n}|S_i|\ge\varepsilon\right\}$$
$E[S_n]=0$�Ȃ̂�, 
\begin{equation}\label{kolooo}
V[S_n]=\int_0^{+\infty}P\{S_n^2\ge r\}\int d r
\ge\sum_{k=1}^n\int_0^{+\infty}P\left\{\{S_n^2\ge r\}\cap 
A_k\right\}\int d r.
\end{equation}
�܂�, �C�ӂ�$k(1\le k\le n)$�ɑ΂���,
�Ɨ��ł��邱�Ƃ���, 
$$\begin{array}{rl}&\displaystyle\int_0^{+\infty}P\left\{\{S_n^2\ge 
r\}\cap A_k\right\}\int d r\\[0.4cm]
=\!\!\!\!&\displaystyle\int_0^{+\infty}P\left\{\{(S_k+\xi_{k+1}+
\cdots+\xi_n)^2\ge r\}\cap A_k\right\}\int d r\\[0.4cm]
=\!\!\!\!&\displaystyle\int_0^{+\infty}P\left\{\{S_k^2+\xi_{k+1}^2+
\cdots+\xi_n^2\ge r\}\cap A_k\right\}\int d r\\[0.4cm]
&\qquad+2\displaystyle\sum_{j=k+1}^n
 E[I_{A_k}S_k]E[\xi_j]+\sum_{j\not=l;j,l=k+1}^n
P\{A_k\}E[\xi_j]E[\xi_l]\\[0.4cm]
\ge\!\!\!\!&\displaystyle\int_0^{+\infty}P\left\{\{S_k^2\ge r\}\cap 
A_k\right\}\int d r\\[0.4cm]
\ge\!\!\!\!&\varepsilon^2 P\{A_k\}.
\end{array}$$
(\ref{kolooo})�𗘗p�����, 
$$V[S_n]\ge\varepsilon^2\sum_{i=1}^n P\{A_i\}=\varepsilon^2 P\{A\}.$$
�㎮����, �R�����S���t�̕s�����̐������ؖ����ꂽ.


%\newshadetheorem{randomstrong1}[randomthe]{�藝}
%\begin{randomstrong1}
\begin{thrm}\label{randomstrong1}
$\{\xi_i\}$��Ɨ��Ȋm���ϐ���Ƃ���. 
$\sum_{i=1}^{\infty}V[\xi_i]<\infty$�Ȃ��,
$\sum_{i=1}^{\infty}(\xi_i-E[\xi_i])$
�͊T��������.
\end{thrm}
%\end{randomstrong1}
\proof ����$\sum_{i=1}^{\infty}(\xi_i-E[\xi_i])$
��,
�T�������邽�߂̕K�v�\��������, 
$\sum_{i=n}^{\infty}(\xi_i-E[\xi_i])\to 0(n\to\infty)$
���T�������邱��. �܂�, ���̂��߂̕K�v�\��������,
�C�ӂ�$\varepsilon>0$�ɑ΂���,
�������������邱��. 
$$\lim_{n\to\infty}P\left\{\bigcup_{j=0}^{\infty}\left\{\left|
\sum_{i=n}^{n+j}(\xi_i-E[\xi_i])\right|
\ge\varepsilon\right\}\right\}=0$$
����,
$$\begin{array}{ll}
&\displaystyle P\left\{\bigcup_{j=0}^{\infty}\left\{\left|\sum_{i=n}^{n+j}
(\xi_i-E[\xi_i])\right|
\ge\varepsilon\right\}\right\}\\[0.7cm]
=\!\!\!&\displaystyle\lim_{m\to\infty}P\left\{\bigcup_{j=0}^m\left\{\left
|\sum_{i=n}^{n+j}(\xi_i-E[\xi_i])\right|
\ge\varepsilon\right\}\right\}\\[0.7cm]
=\!\!\!&\displaystyle\lim_{m\to\infty}P\left\{\max_{0\le j\le
m}\left|\sum_{i=n}^{n+j}(\xi_i-E[\xi_i])\right|
\ge\varepsilon\right\}\\[0.5cm]
\le\!\!\!&\displaystyle\lim_{m\to\infty}\frac{1}{\varepsilon^2}
\sum_{i=n}^{n+m}V[\xi_i]
\quad\mbox{(�R�����S���t�̕s����)}\\[0.3cm]
=\!\!\!&\displaystyle\frac{1}{\varepsilon^2}\sum_{i=n}^{\infty}V[\xi_i]\to
0\quad (n\to\infty)\mbox{ by}
\displaystyle\sum_{i=1}^{\infty}V[\xi_i]<\infty.
\end{array}$$
�藝�͏ؖ����ꂽ.

%\newshadetheorem{kolmogorovSL}[randomthe]{�藝}
%\begin{kolmogorovSL}
\begin{thrm}\label{kolmogorovSL}
(�R�����S���t�̑吔�̋��@��) $\{\xi_i\}$��
�L���Ȋ��Ғl�����Ɨ��Ȋm���ϐ��Ƃ���. ����,
\begin{equation}\label{kolmogorovSL01}
\sum_{i=1}^{\infty}\frac{V[\xi_i]}{i^2}<\infty,
\end{equation}
�Ȃ��, ���������藧��.
\begin{equation}
\frac{S_n-E[S_n]}{n}\to 0,\mbox{ a.s.}
\end{equation}
\end{thrm}
%\end{kolmogorovSL}
\proof
(\ref{kolmogorovSL01})���� 
$$\sum_{i=1}^{\infty}V\left[\frac{\xi_i-E[\xi_i]}{i}\right]=\sum_{i=1}^{\in
fty}\frac{V[\xi_i]}{i^2}<\infty.$$
�藝~\ref{randomstrong1}����, 
$\sum_{i=1}^{\infty}(\xi_i-E[\xi_i])/i$���T�������邱�Ƃ��킩��.
�N���l�b�J�[�̕�肩��
$$\frac{S_n-E[S_n]}{n}=\frac{1}{n}\sum_{i=1}^ni\left(\frac{\xi_i-E[\xi_i]}
{i}\right)\to 0,\quad\mbox{a.s.}$$
�藝�͏ؖ����ꂽ.

%\newshadetheorem{randomthe3}[randomthe]{�藝}
%\begin{randomthe3}
\begin{thrm}
(�吔�̋��@��)\label{:law} $\{\xi_i\}$��L���Ȋ��Ғl$e$
������, iid�Ȋm���ϐ���Ƃ���. ���̂Ƃ�,
$S_n/n\to e$ a.s.
\end{thrm}
%\end{randomthe3}
\proof
�e$i\ge 1$�ɑ΂���, $\xi_i^*$�������̂悤�ɂ���.
$$\xi_i^*=\left\{\begin{array}{cl}
\xi_i,&\mbox{if }|\xi_i|<i\\[0.1cm]
0,&\mbox{otherwise},
\end{array}\right.$$
�܂�, $S_n^*=\xi_1^*+\xi_2^*+\cdots+\xi_n^*$�Ƃ����,
�S�Ă�$i$�ɑ΂���,
���������藧��.
$$V[\xi^*_i]\le E[\xi_i^{*2}]\le\sum_{j=1}^ij^2 P\{j-1\le |\xi_1|<j\}$$
�䂦��,
$$\begin{array}{rl}\displaystyle\sum_{i=1}^{\infty}\frac{V[\xi_i^*]}
{i^2}\!\!\!\!
&\le\displaystyle\sum_{i=1}^{\infty}\sum_{j=1}^i\frac{j^2}{i^2} 
P\{j-1\le|\xi_1|<j\}\\[0.5cm]
&=\displaystyle\sum_{j=1}^{\infty}j^2 
P\{j-1\le|\xi_1|<j\}\sum_{i=j}^{\infty}\frac{1}{i^2}\\[0.5cm]
&\le\displaystyle 2\sum_{j=1}^{\infty}j P\{j-1\le|\xi_1|<j\} \quad
  \mbox{by }\sum_{i=j}^{\infty}\frac{1}{i^2}\le\frac{2}{j}\\[0.5cm]
&=\displaystyle 2+2\sum_{j=1}^{\infty}(j-1)P\{j-1\le|\xi_1|<j\}\\[0.5cm]
&\le 2+2 e<\infty.
\end{array}$$
�藝~\ref{kolmogorovSL}����, �������]��.
\begin{equation}\label{randomthe301}
\frac{S_n^*-E[S_n^*]}{n}\to 0,\quad\mbox{a.s.}
\end{equation}
$\xi_i^*\uparrow\xi_i$ as $i\to\infty$
�ɒ��ӂ��Ă���. ���x�[�O�̗D�����藝����,
$E[\xi_i^*]\to e$. �e�[�v���b�c�̕�肩�玟�����]��.
\begin{equation}\label{randomthe302}
\frac{E[S_n^*]}{n}=\frac{E[\xi_1^*]+E[\xi_2^*]+\cdots+E[\xi_n^*]}{n}\to e.
\end{equation}
$(\xi_i-\xi_i^*)\to 0$, a.s.,�ł��邱�Ƃ��, 
�e�[�v���b�c�̕��͎������咣����.
\begin{equation}\label{randomthe303}
\frac{S_n-S_n^*}{n}=\frac{1}{n}\sum_{i=1}^n(\xi_i-\xi_i^*)\to 0,
\quad\mbox{a.s.}
\end{equation}
(\ref{randomthe301}), (\ref{randomthe302}), (\ref{randomthe303})
����, $S_n/n\to e$ a.s.


\subsection{���S�Ɍ��藝}
\label{:clt} �吔�̖@����,
$S_n=\xi_1+\xi_2+\cdots+\xi_n$�̊m�����z�ɂ��Ă�
���������^���Ă��Ȃ�. ���S�Ɍ��藝�͋ߎ����z
����͂��邱�Ƃ��ړI�ł���.

%\newshadetheorem{randomthelinde}[randomthe]{�藝}
%\begin{randomthelinde}
\begin{thrm}\label{randomthelinde}
(�����f���x���O�̒��S�Ɍ��藝\index
{���イ���񂫂傭����Ă���@���S�Ɍ��藝}) $\{\xi_i\}$��
�Ɨ���, �K���������ꕪ�z�ł͂Ȃ��L���ȕ��U������
�m���ϐ�, $\Phi_i$�����ꂼ��
$\xi_i$, $i=1,2,\cdots$
�̊m�����z�Ƃ���.
�C�ӂ�$\varepsilon>0$�ɑ΂���, 
�����f���x���O����
\begin{equation}
\lim_{n\to\infty}\displaystyle\frac{1}{V[S_n]}\sum_{i=1}^n\int_{|r-E[
\xi_i]|\ge\varepsilon\sqrt{V[S_n]}}
\left(r-E[\xi_i]\right)^2\int d \Phi_i(r)=0
\end{equation}
�����������Ȃ��
\begin{equation}
\frac{S_n-E[S_n]}{\sqrt{V[S_n]}}
\end{equation}
�㎮��, �W�����K���z�ɕ��z��������.
�܂�, �C�ӂ̌Œ肳�ꂽ��$x$�ɑ΂���, 
\begin{equation}
\lim_{n\to\infty}P\left\{\frac{S_n-E[S_n]}{\sqrt{V[S_n]}}\le
x\right\}
=\frac{1}{2\pi}\int_{-\infty}^x\exp\left(-{r^2}/{2}\right)\int d r.
\end{equation}
\end{thrm}
%\end{randomthelinde}
\proof {\sc Step 1:} �S�Ă�$n$�ɑ΂���, 
$n$�̊m���ϐ��������Œ�`����.
$$\xi_{nk}=\frac{\xi_k-E[\xi_k]}{\sqrt{V[S_n]}},\quad 1\le k\le n.$$
�e$n$�ɑ΂���, �֐�$\Phi_{nk}$
��, ���ꂼ��
$\xi_{nk}$, $k=1,2,\cdots,n$
�̊m�����z�Ɖ��肷��.
���̂Ƃ�, �e$k(1\le k\le n)$�ɑ΂���
$$E[\xi_{nk}]=\int_{-\infty}^{+\infty}r\int d\Phi_{nk}(r)=0,$$
$$V[\xi_{nk}]=\int_{-\infty}^{+\infty}r^2\int d\Phi_{nk}(r)=
\frac{V[\xi_k]}{V[S_n]},$$
$$\sum_{k=1}^nV[\xi_{nk}]=\frac{V[\xi_{1}]+V[\xi_{2}]+\cdots+
V[\xi_{n}]}{V[S_n]}=1.$$
�����f���x���O��������, �S�Ă�
$\varepsilon>0$�ɑ΂���, �������]��.
\begin{equation}\label{lind111}
\lim_{n\to\infty}\sum_{k=1}^n\int_{|r|\ge\varepsilon}r^2
\int d\Phi_{n k}(r)=0.
\end{equation}
�܂�, �S�Ă�$k(1\le k\le n)$�ɑ΂���,
���������藧��.
$$\frac{V[\xi_k]}{V[S_n]}=\int_{|r|<\varepsilon}r^2\int d\Phi_{nk}(r)+
\int_{|r|\ge\varepsilon}r^2\int d\Phi_{n k}(r)
\le\varepsilon^2+\int_{|r|\ge\varepsilon}r^2\int d\Phi_{nk}(r),$$
�����
$$\max_{1\le k\le n}\frac{V[\xi_k]}{V[S_n]}\le\varepsilon^2+
\sum_{k=1}^n\int_{|r|\ge\varepsilon}r^2\int d\Phi_{nk}(r).$$
�܂�, (\ref{lind111})���, 
\begin{equation}\label{lind222}
\lim_{n\to\infty}\max_{1\le k\le n}\frac{V[\xi_k]}{V[S_n]}=0.
\end{equation}

{\sc Step 2:} �e$n$�ɑ΂���, $\varphi_{nk}$�����ꂼ��
$\xi_{nk}$, $k=1,2,\cdots,n$,
�̓����֐��Ƃ�,
$\varphi_n$�������̓����֐��Ƃ���.
$$\sum_{k=1}^n\xi_{nk}=\frac{S_n-E[S_n]}{\sqrt{V[S_n]}}.$$
�藝~\ref{randomtheindsum}���玟�����]��.
$$\varphi_n(t)=\prod_{k=1}^n\varphi_{nk}(t),\quad t\in R.$$
�܂�
$$|\varphi_{nk}(t)-1|\le\int_{-\infty}^{+\infty}|e^{itr}-1-itr|
\int d\Phi_{nk}(r)
\le\frac{t^2}{2}\int_{-\infty}^{+\infty}r^2\int d\Phi_{nk}(r)
=\frac{t^2}{2}\cdot\frac{V[\xi_k]}{V[S_n]},$$
�㎮����, �S�Ă�$T>0$�ɑ΂��� 
$$\max_{|t|\le T}\max_{1\le k\le n}|\varphi_{nk}(t)-1|\le\frac{T^2}{2}
\max_{1\le k\le n}\frac{V[\xi_k]}{V[S_n]}$$
(\ref{lind222})����
\begin{equation}\label{lind333}
\lim_{n\to\infty}\max_{1\le k\le n}|\varphi_{nk}(t)-1|=0
\end{equation}
�㎮�͑S�Ă�$t$�Ő�������.\\
{\sc Step 3:} $T>0$���Œ肷���, (\ref{lind333})���
�S�Ă�$1\le
k\le n$��$|t|<T$�ɑ΂���, $|\varphi_{nk}(t)-1|<1/2$�𖞂���
�悤�ȏ\���傫��$n$��I�Ԃ��Ƃ��ł���. 

����Ď����𓾂�.
$$\ln\varphi_n(t)=\sum_{k=1}^n\ln\varphi_{nk}(t)=\sum_{k=1}^n
\left[\varphi_{nk}(t)-1\right]+f_n(t)$$
�A��,
$$f_n(t)=\sum_{k=1}^n\sum_{j=2}^{\infty}\frac{(-1)^{j-1}}{j}
[\varphi_{nk}(t)-1]^j.$$
����䂦,
$$\begin{array}{rl}
|f_n(t)|\!\!\!\!&\displaystyle\le\sum_{k=1}^n\sum_{j=2}^{\infty}
\frac{|\varphi_{nk}(t)-1|^j}{j}\\[0.4cm]
&\displaystyle\le\sum_{k=1}^n\frac{|\varphi_{nk}(t)-1|^2}{1-|
\varphi_{nk}(t)-1|}\\[0.4cm]
&\displaystyle<\sum_{k=1}^n|\varphi_{nk}(t)-1|^2\quad
\mbox{(�\���傫��$n$)}\\[0.4cm]
&\displaystyle\le\max_{1\le k\le
n}|\varphi_{nk}(t)-1|\cdot\sum_{k=1}^n|\varphi_{nk}(t)-1|.
\end{array}$$
�܂�, ��������
$$\sum_{k=1}^n|\varphi_{nk}(t)-1|\le\frac{t^2}{2}\sum_{k=1}^n
\int_{-\infty}^{+\infty}r^2\int d\Phi_{nk}(r)
=\frac{t^2}{2},$$ $T>0$�ɑ΂���,������������.
$$\max_{|t|\le T}|f_n(t)|\le\frac{T^2}{2}\max_{|t|\le T}
\max_{1\le k\le n}|\varphi_{nk}(t)-1|$$
�㎮����, $t$�̗L����ԏ��, ��������l�ɐ��藧��.
\begin{equation}
\label{lind444}
\lim_{n\to\infty}\left\{\ln\varphi_n(t)-\sum_{k=1}^n
[\varphi_{nk}(t)-1]\right\}=0
\end{equation}
{\sc Step 4:} ������, �������`����.
$$g_n(t)=\frac{t^2}{2}+\sum_{k=1}^n\int_{-\infty}^{+\infty}
(e^{itr}-1-itr)\int d\Phi_{nk}(r),$$
�����, �����Ɏ���������.
$$\sum_{k=1}^n[\varphi_{nk}(t)-1]=-\frac{t^2}{2}+g_n(t).$$
�C�ӂ� $\varepsilon>0$�ɑ΂���, 
$$\sum_{k=1}^n\int_{-\infty}^{+\infty}r^2\int d\Phi_{nk}(r)=1,$$
�ł��邱�Ƃ���, $g_n$�������̂悤�ɏ�����. 
$$\begin{array}{rl}g_n(t)=&\!\!\!\!\displaystyle\sum_{k=1}^n
\int_{|r|<\varepsilon}\left(e^{itr}-1-itr-
\frac{(itr)^2}{2}\right)\int d\Phi_{nk}(r)\\[0.4cm]
&\displaystyle+\sum_{k=1}^n\int_{|r\ge\varepsilon}\left(e^{itr}-1-itr+
\frac{t^2r^2}{2}\right)\int d\Phi_{nk}(r)
\end{array}$$
�����
$$|g_n(t)|\le\frac{|t|^3}{6}\sum_{k=1}^n\int_{|r|<\varepsilon}
|r|^3\int d\Phi_{nk}(r)
+t^2\sum_{k=1}^n\int_{|r|\ge\varepsilon}r^2\int d\Phi_{nk}(r).$$
�䂦��, �C�ӂ� $T>0$�ɑ΂���,
$$\begin{array}{rl}\displaystyle\max_{|t|\le T}|g_n(t)|\!\!\!\!&
\le\displaystyle\frac{T^3\varepsilon}{6}\sum_{k=1}^n\int_{|r|<\varepsilon}
|r|^2\int d\Phi_{nk}(r)
+T^2\sum_{k=1}^n\int_{|r|\ge\varepsilon}r^2\int d\Phi_{nk}(r)\\[0.6cm]
&=\displaystyle\frac{T^3\varepsilon}{6}+T^2\left(1-\frac{T\varepsilon}{6}
\right)
\sum_{k=1}^n\int_{|r|\ge\varepsilon}r^2\int d\Phi_{nk}(r).
\end{array}$$
(\ref{lind333})���, $t$�̊e�L����Ԃ�, 
��l��$g_n(t)\to 0(n\to\infty)$�����藧��.
�Ō��, 
(\ref{lind444})�𗘗p�����, 
$t$�̂�����L����Ԃ�, ��l��
$\varphi_n(t)\to e^{-t^2/2}(n\to\infty)$�����藧���Ƃ��킩��.  
�䂦��, �藝�͓����֐��ɑ΂���A���藝����ؖ������.

%\newshadetheorem{randomthebound}[randomthe]{�藝}
%\begin{randomthebound}
\begin{thrm}\label{randomthebound}
$\{\xi_i\}$��
$V[S_n]\to\infty$�𖞂����Ɨ��Ȋm���ϐ���Ƃ���. 
����, �e$i$�ɑ΂���,
$|\xi_i|\le a$�𖞂�����$a$�����݂���Ȃ��
\begin{equation}
\frac{S_n-E[S_n]}{\sqrt{V[S_n]}}
\end{equation}
�㎮��, �W�����K���z�ɕ��z��������.
\end{thrm}
%\end{randomthebound}
\proof �����f���x���O�����𖞂������Ƃ��ؖ�����Ώ\���ł���. 
�`�F�r�V�F�t�̕s�������
$$\begin{array}{rl}&\displaystyle\int_{|r-E[\xi_k]|\ge\varepsilon
\sqrt{V[S_n]}}(r-E[\xi_k])^2\int d\Phi_k(r)\\[0.4cm]
\le\!\!\!\!&\displaystyle(2a)^2 
P\left\{|r-E[\xi_k]|\ge\varepsilon\sqrt{V[S_n]}\right\}\\[0.3cm]
\le\!\!\!\!&\displaystyle\frac{(2a)^2V[\xi_k]}{\varepsilon^2V[S_n]}.
\end{array}$$
�䂦��, �ȉ��̂悤�Ƀ����f���x���O�����𖞂����ꂽ.
$$\frac{1}{V[S_n]}\sum_{k=1}^n\int_{|r-E[\xi_k]|\ge\varepsilon
\sqrt{V[S_n]}}(r-E[\xi_k])^2\int d\Phi_k(r)
\le\frac{(2a)^2}{\varepsilon^2V[S_n]}\to 0$$ 
�藝�͏ؖ����ꂽ. 

%\newshadetheorem{randomthelevy}[randomthe]{�藝}
%\begin{randomthelevy}
\begin{thrm}\label{randomthelevy}
(�����B�̒��S�Ɍ��藝) $\{\xi_i\}$��
iid�ŗL���Ȑ��̕��U�����m���ϐ���Ƃ���.  
���̂Ƃ�,
\begin{equation}
\frac{S_n-E[S_n]}{\sqrt{V[S_n]}}
\end{equation}
�㎮��, �W�����K���z�ɕ��z��������.
\end{thrm}
%\end{randomthelevy}
\proof �����f���x���O�����𖞂𖞂������Ƃ��ؖ������
�\���ł���.
$\{\xi_i\}$��
iid�Ȋm���ϐ��Ȃ̂�,
���ʂ̊��Ғl$e$, ���ʂ̕��U$\sigma^2$,
���ʂ̊m�����z$\Phi$������. �䂦��,
�C�ӂ̐�
$\varepsilon>0$�ɑ΂���
$$\frac{1}{V[S_n]}\sum_{i=1}^n\int_{|r-e|\ge\varepsilon\sqrt{V[S_n]}}
\left(r-e\right)^2\int d
\Phi(r)=\frac{1}{\sigma^2}\int_{|r-e|\ge\varepsilon\sigma\sqrt{n}}
\left(r-e\right)^2\int d \Phi(r).$$ 
���U$\sigma^2$�͗L���Ȃ̂�,
�E�ӂ̐ϕ���
$n\to\infty$�Ƃ����Ƃ�, 0�Ɏ�������. �藝�͏ؖ����ꂽ.


\subsection*{�����t���m��}


���鎖��$B$���N�����Ƃ��������̉���,
����$A$�̊m�����l����. 
���̐V����$A$�̊m����,
����$B$���N�����Ƃ��̎���$A$�̏����t���m���Ƃ�΂��.

%\newtheorem{randomdefconditional}[randomdef]{��`}
%\begin{randomdefconditional}
\begin{defn}
$(\Omega, \mathcal{A},P)$���m�����,
$A,B\in\mathcal{A}$�Ƃ���.
$B$�̉��ł�, $A$�̏����t���m���͎����Œ�`�����.
\begin{equation}\label{randomdefconditional1}
P\{A|B\}=\displaystyle\frac{P\{A\cap B\}}{P\{B\}}
\end{equation}
�A��, $P\{B\}>0$.
\end{defn}
%\end{randomdefconditional}

%\newshadetheorem{randomthecp}[randomthe]{�藝}
%\begin{randomthecp}
\begin{thrm}
$(\Omega, \mathcal{A},P)$ ���m�����,
$B\in\mathcal{A}$�Ƃ���.
$P\{B\}>0$�Ȃ��, (\ref{randomdefconditional1})�Œ�`�����$P\{\cdot|B\}$
��$(\Omega, \mathcal{A})$��̊m�����x�ł���,
$(\Omega, \mathcal{A},P\{\cdot|B\})$�͊m����ԂɂȂ�.
\end{thrm}
%\end{randomthecp}
\proof �܂�, 
$$P\{\Omega|B\}=\frac{P\{\Omega\cap B\}}
{P\{B\}}=\frac{P\{B\}}{P\{B\}}=1.$$
�܂�, �C�ӂ�$A\in\mathcal{A}$�ɑ΂���, 
�W���֐�$P\{A|B\}$�͔񕉂ł���.
�Ō��, �C�ӂ̔w�����ۂ̐���$\{A_i\}_{i=1}^{\infty}$�ɑ΂���
$$P\left\{\bigcup_{i=1}^{\infty}A_i|B\right\}
=\frac{P\left\{\left(\bigcup\limits_{i=1}^{\infty}A_i\right)
\cap B\right\}}{P\{B\}}
=\frac{\sum\limits_{i=1}^{\infty}P\{A_i\cap B\}}{P\{B\}}
=\sum\limits_{i=1}^{\infty}P\{A_i|B\}.$$
�䂦��, $P\{\cdot|B\}$��$(\Omega, \mathcal{A})$
��̊m�����x, $(\Omega, \mathcal{A},P\{\cdot|B\})$
�͊m����ԂɂȂ�.

%\newtheorem{randomthebayes}[randomthe]{Theorem}
%\begin{randomthebayes}(Bayes' Rule)\label{:bayesrule}
%Let the events $A_1,A_2,\cdots,A_n$ form a partition of the space $\Omega$
%such that $\Pr\{A_i\}>0$ for $i=1,2,\cdots,n$, and $B$ an event with
%$\Pr\{B\}>0$. Then we have
%\begin{equation}
%\Pr\{A_k|B\}=\frac{\Pr\{A_k\}\Pr\{B|A_k\}}{\sum\limits_{i=1}^n
%\Pr\{A_i\}\Pr\{B|A_i\}}
%\end{equation}
%for $k=1,2,\cdots,n$.
%\end{randomthebayes}
%\proof
%Since $A_1,A_2,\cdots,A_n$ form a partition of the space $\Omega$, we have
%$$\Pr\{B\}=\sum\limits_{i=1}^n\Pr\{A_i\cap B\}=\sum\limits_{i=1}^n\Pr\{A_i\}\Pr\{B|A_i\}.$$
%Thus, for any $k$, if $\Pr\{B\}>0$, then
%$$\Pr\{A_k|B\}=\frac{\Pr\{A_k\cap B\}}{\Pr\{B\}}=
%\frac{\Pr\{A_k\}\Pr\{B|A_k\}}{\sum\limits_{i=1}^n\Pr\{A_i\}\Pr\{B|A_i\}}.$$
%The theorem is proved.

%\newtheorem{randomdefdistrc}[randomdef]{��`}
%\begin{randomdefdistrc
\begin{defn}
$(\Omega,\mathcal{A},P)$���m����ԂƂ���.
���̂Ƃ�,
$B$���^����ꂽ�Ƃ��̊m���ϐ�$\xi$�̏����t���m�����z
$\Phi$: $R\rightarrow[0,1]$�͎�����
��`�����. 
\begin{equation}
\Phi(x|B)=P\left\{\xi\le x\bigm|B\right\}
\end{equation}
�A��, $P\{B\}>0$.
\end{defn}
%\end{randomdefdistrc}

%\newtheorem{randomdefdens}[randomdef]{��`}
%\begin{randomdefdens}
\begin{defn}
$(\Omega,\mathcal{A},P)$���m����ԂƂ���.
���̂Ƃ�,
$B$���^����ꂽ�Ƃ��̊m���ϐ�$\xi$�̏����t���m�����x�֐�
$\phi$:$R\rightarrow [0,+\infty)$��,
�S�Ă�$x\in R$
�ɑ΂���, �����𖞂����֐�.
\begin{equation}
\Phi(x|B)=\int_{-\infty}^x\phi(y|B)\int d y
\end{equation}
�A��, $\Phi$��$B$���^����ꂽ�Ƃ��̊m���ϐ�$\xi$
�̏����t���m�����z.���R, $P\{B\}>0$.
\end{defn}
%\end{randomdefdens}

\begin{exap}
$\xi$��$\eta$���m���ϐ�.
�A��, $\eta$�͍��X�Z��
$y_1,y_2,\cdots$�̒l���Ƃ���̂Ƃ���. 
���̂Ƃ�, �e$i$�ɑ΂���, 
$\eta=y_i$���^����ꂽ
�Ƃ���, $\xi$�̏����t���m�����z��
$$\Phi(x|\eta=y_i)=P\left\{\xi\le x\bigm|\eta=y_i\right\}
=\frac{P\{\xi\le x,\eta=y_i\}}{P\{\eta=y_i\}}.$$
\end{exap}

\begin{exap}
$(\xi,\eta)$�������m�����x�֐�$\psi$�����m���x�N�g���Ƃ���.
���̂Ƃ�, $\xi$��$\eta$��
���ӊm�����x�֐���, ���ꂼ�� 
$$f(x)=\int_{-\infty}^{+\infty}\psi(x,y)\int d y,\quad
g(y)=\int_{-\infty}^{+\infty}\psi(x,y)\int d x .$$
�����, ���������藧��.
$$P\{\xi\le x,\eta\le y\}=\int_{-\infty}^x\int_{-\infty}^y
\psi(r,t)\int d r\int d t
=\int_{-\infty}^y\left[\int_{-\infty}^x\frac{\psi(r,t)}
{g(t)}\int d r\right]g(t)\int d t$$
�㎮��$\eta=y_i$���^����ꂽ
�Ƃ���, $\xi$�̏����t���m�����z��
\begin{equation}\label{randomcontionale1}
\Phi(x|\eta=y)=\int_{-\infty}^x\frac{\psi(r,y)}{g(y)}\int d r,
\quad\mbox{a.s.}
\end{equation}
�ƂȂ邱�Ƃ������Ă���. �܂�, $\eta=y_i$���^����ꂽ
�Ƃ���, $\xi$�̏����t���m�����x�֐���
\begin{equation}\label{randomcontionale2}
\phi(x|\eta=y)=\frac{\psi(x,y)}{g(y)},\quad\mbox{a.s.}
\end{equation}
(\ref{randomcontionale1}), (\ref{randomcontionale2})��
$g(y)\not=0$�ɑ΂��Ă̂ݒ�`����Ă��邱�Ƃɒ��ӂ���. ����,
�W��$\{y|g(y)=0\}$�̊m����$0$�ł���.
\end{exap}

%\newtheorem{randomdefexp}[randomdef]{��`}
%\begin{randomdefexp}
\begin{defn}
$\xi$���m�����$(\Omega,\mathcal{A},P)$���
�m���ϐ��Ƃ���.
���̂Ƃ�, $B$���^����ꂽ�Ƃ���$\xi$��
�����t�����Ғl��, �����Œ�`�����. 
\begin{equation}
E[\xi|B]=\int_0^{+\infty}P\{\xi\ge r|B\}\int d r
-\int_{-\infty}^0 P\{\xi\le r|B\}\int d r
\end{equation}
�A��,
$2$�̐ϕ��l��$1$�͏��Ȃ��Ƃ��L���Ƃ���.
\end{defn}
%\end{randomdefexp}





%\newpage
\chapter*{����ɕ׋����邽�߂�}
\addcontentsline{toc}{section}{����ɕ׋����邽�߂�}





\newpage
\begin{thebibliography}{99}
%\addcontentsline{toc}{section}{�Q�l����}

\bibitem{ref11} ���ҁA�\��A�o�ŎЁA���s�N

\end{thebibliography}


\end{document}
