どうも、木村（@kimu3_slime）です。
数学における［］、[]（角かっこ）記号の意味、読み方を紹介します。［］記号には、主に3つの意味があります。
床関数、整数部分
実数\(x\)に対して
\[ \begin{aligned}[x]:= x 以下の最大の整数\end{aligned} \]
と定義される関数を、床関数（floor function）、\(x\)の整数部分、ガウス記号と呼びます。
例えば、\([3.14]= 3\)、\([-1.2]=-2\)、\([5]=5\)です。小数部分があったら切り捨てて、その下側の整数値を取ります。そのグラフは、階段状で飛び飛びになっています。
すべての実数\(x\)に対し、\(n \leq x <n+1\)を満たす整数\(n\)が存在します。その\(x\)を超えない最大の整数を、\([x]=n\)と表すわけです。
定義から導かれる基本的な性質として、\(x-1 < [x] \leq x\)、\([x]\leq x< [x]+1\)が成り立ちます。
\([x]\)を整数部分と呼ぶのに対し、\(x-[x]\)は分数部分（小数部分）と捉えられます。
床関数は
\[ \begin{aligned}\lfloor x \rfloor\end{aligned} \]
という下かっこで表記されることもあります。英語圏ではこちらが主流なのではないでしょうか。一方、\(x\)以上の最小の整数を
\[ \begin{aligned}\lceil x \rceil\end{aligned} \]
と表し、それは天井関数（ceiling function）と呼ばれています。
大かっこ
数学では丸括弧\(( )\)を使うのが普通ですが、かっこが二重以上の入れ子になるときは違った種類のかっこを使うことがあります。
日本では、\(()\)を小かっこ、\(\{\}\)を中かっこ（二重かっこ）、\([]\)を大かっこ（三重かっこ）として使うことがあるようです。
\[ \begin{aligned}[\frac{1}{n^2}\{\sin (2 \pi x)\}+d]+e\end{aligned} \]
個人的には、大学数学の教科書で、中かっこや大かっこを使っているのをあまり見た記憶はありませんが。二重かかっこなら、\(f(x,y(x))\)と丸かっこで済ませても問題ないでしょう。より複雑な式になる場合は、かっこの記号を変えたところで複雑なので、何か文字・記号を使って単純化するのが良いです。
より実際的には、積分の計算で大かっこを見かけます。原始関数による計算で、かっこを使って中身への代入を簡略表記しています。
\[ \begin{aligned}\int_0^1 xdx = [\frac{1}{2}x^2]_{x=0} ^{x=1}\\ = \frac{1}{2}1^2-\frac{1}{2}0^2 =\frac{1}{2}\end{aligned} \]
区間記法
角かっこを使って、実数のつながった部分集合、区間を表すことができます。
例えば、\(1 \leq x \leq 2\)を満たす実数\(x\)の集合は、\([1,2]\)と表せます。一般には、
\[ \begin{aligned}[a,b]:=\{x \in \mathbb{R} \mid a \leq x \leq b\}\end{aligned} \]
を閉区間（closed interval）と呼びます。端点を両方含まない場合は、
\[ \begin{aligned}(a,b):=\{x \in \mathbb{R} \mid a \leq x \leq b\}\end{aligned} \]
を開区間（open interval）と呼びます。
参考：集合論入門：集合の定義、数の集合、ラッセルのパラドックス
以上、数学における［］（角かっこ）記号の意味、読み方を紹介してきました。
整数部分、入れ子の区別、区間表記の3種類です。文脈に応じて読み分ける手助けとなったら嬉しいです。
木村すらいむ（@kimu3_slime）でした。ではでは。
