小数点の四捨五入について

MZ Platformとは 掲示板 MZプラットフォームユーザー会掲示板 小数点の四捨五入について

2件の投稿を表示中 - 1 - 2件目 (全2件中)
  • 投稿者
    投稿
  • #7837
    TiBo
    参加者

    お世話になります。
    標準偏差を求めるアプリを作ろうと考えていましたが、基本統計処理のコンポーネントで求められることが分かり、それを用いて数値を出したところ計算結果の四捨五入が希望の位置より早い段階で処理されます。小数点以下3~4桁までの数値を使って、関数電卓を用いて別の計算式に代入しようとしています。
    過去の質問を見ながら表示形式の設定などいろいろ変更して試してみましたが、思うような表示結果ができず、自分の対応が間違っていると思い質問させていただきました。表示の方法や四捨五入の桁位置を変更する設定や処理があるようでしたら、ご教示いただけますでしょうか。
    よろしくお願いします。

    #7840
    MZPlatformユーザー会
    キーマスター

    お問い合わせありがとうございます。

    [基本統計処理(数値)]のメソッド「標準偏差を取得する()」の仕様として、
    ・標準偏差の小数点以下の桁数は、計算結果値の小数点以下桁数が-1のとき、 全データで最も小数点以下の桁数が多いデータの小数点以下桁数 + 1
    ・計算結果値の小数点以下桁数が-1以外のとき 計算結果値の小数点以下桁数 とする
    となっています。

    小数点以下有効桁数を設定しないときの計算結果は、設定された数値のうち最も小数点以下の桁数が多いデータの小数点以下桁数に左右されるとお考えください。
    今回お送りいただいたアプリケーションの[テーブル]は列型を「実数」に設定して頂いていますが、恐らくテーブルセルに値を入力時は整数の形で入力されていると推察します。セルの値を実数であることが担保されるように入力すると計算結果の丸め位置は移動しました。

    データ値に左右されないようにするには、[基本統計処理(数値)]のメソッド「集計結果値の小数点以下有効桁数を設定する(int)」をお使いください。引数は「固定値」で設定可能です。このメソッド処理を「集計対象データを設定する(PFObjectList)」の処理の前に設定します。

    なお、各コンポーネントのメソッドにどんなものがあるか、MZプラットフォームユーザー会の資料「https://ssl.monozukuri.org/mzplatform/mzpf_docs/4.0/reference/index.html」をご覧いただくと一覧となっています。ご参考になれば幸いです。

    以上、ご不明な点がございましたら、どうぞ再度ご連絡ください。
    よろしくお願い申し上げます。

2件の投稿を表示中 - 1 - 2件目 (全2件中)
  • このトピックに返信するにはログインが必要です。