Mercurial > hg > Papers > 2016 > masa-master

<!DOCTYPE html>
<html>
  <head>
    <meta charset='utf-8'>
    <title>sigos</title>

    <!--
         Notes on CSS media types used:

         1) projection -> slideshow mode (display one slide at-a-time; hide all others)
         2) screen     -> outline mode (display all slides-at-once on screen)
         3) print      -> print (and print preview)

         Note: toggle between projection/screen (that is, slideshow/outline) mode using t-key

         Questions, comments?
         - send them along to the mailinglist/forum online @ http://groups.google.com/group/webslideshow
      -->

    <!-- style sheet links -->
    <link rel="stylesheet/less" href="themes/blank/projection.css.less"  media="screen,projection">
    <link rel="stylesheet/less" href="themes/blank/screen.css.less"      media="screen">
    <link rel="stylesheet/less" href="themes/blank/print.css.less"       media="print">

    <link rel="stylesheet/less" href="themes/blank/blank.css.less"    media="screen,projection">

    <!-- Notes about less css support
         - all less stylesheets (*.css.less) need to get listed/loaded first (before the less.js script)
         - find more info about less.js online @ http://lesscss.org

         ***** NOTE:
         less.js browser script currently won’t work if you’re using Google Chrome
         and the path to your page starts with "file:///" due to a known Chrome issue.
         (In the developer/js console you will see:
         XMLHttpRequest cannot load file:///../s6/shared/projection.css.less.
         Cross origin requests are only supported for HTTP.)
      -->

    <!-- add js libs (less, jquery) -->
    <script src="js/less-1.1.4.min.js"></script>
    <script src="js/jquery-1.7.min.js"></script>

    <!-- S6 JS -->
    <script src="js/jquery.slideshow.js"></script>
    <script src="js/jquery.slideshow.counter.js"></script>
    <script src="js/jquery.slideshow.controls.js"></script>
    <script src="js/jquery.slideshow.footer.js"></script>
    <script src="js/jquery.slideshow.autoplay.js"></script>
    <script>
      $(document).ready( function() {
      Slideshow.init();

      // Example 2: Start Off in Outline Mode
      // Slideshow.init( { mode: 'outline' } );

      // Example 3: Use Custom Transition
      // Slideshow.transition = transitionScrollUp;
      // Slideshow.init();

      // Example 4: Start Off in Autoplay Mode with Custom Transition
      // Slideshow.transition = transitionScrollUp;
      // Slideshow.init( { mode: 'autoplay' } );
      } );
    </script>

    <!-- Better Browser Banner for Microsoft Internet Explorer (IE) -->
    <!--[if IE]>
        <script src="js/jquery.microsoft.js"></script>
        <![endif]-->

  </head>
  <body>
    <div class="layout">
      <div id="header"></div>
      <div id="footer">
        <div align="right">
          <img src="images/concurrency.png" width="200">
        </div>
      </div>
    </div>

    <div class="presentation">

      <!-- add slides here; example -->

      <div class='slide cover'>
        <table width="90%" height="90%" border="0" align="center">
          <tr>
            <td><div align="center">
                <h1><font color="#808db5">Cerium による文字列処理の並列処理</font></h1>
            </div></td>
          </tr>
          <tr>
            <td><div align="left">
                Masataka Kohagura,Shinji Kono,
                <script>
                  var date = new Date();
                  var year = date.getFullYear();
                  var month = date.getMonth();
                  var day = date.getDate();

                  var monthList = new Array("January","February","March","April","May","June",
                  "July","August","September","October","November","December");

                  document.write(monthList[month]+" "+day+", "+year);

                </script>
                <hr style="color:#ffcc00;background-color:#ffcc00;text-align:left;border:none;width:300%;height:0.2em;">
            </div></td>
          </tr>
        </table>
      </div>

        <!--

        -->
      <div class='slide'>
        <h2>文字列処理の並列処理</h2>

世界中のサーバには様々な情報や Log が保管されており、それらのテキストファイル全体のデータサイズを合計すると TB 単位ととても大きなサイズになると予想される。
それらの中から特定の文字列や正規表現によるパターンマッチングを探すなどの文字列処理には膨大な時間がかかる。
検索時間を短縮するためには、ファイルの読み込み時間を軽減し、プログラムの並列度をあげる必要がある。

Cerium は並列プログラミングフレームワークであり当研究室で開発している。
文字列処理を Cerium に実装するにあたり、ファイルの読み込み方法について改良を行なった。
ファイルの読み込みを行なったあとに文字列処理が走っていたが、ファイルの読み込みと文字列処理が同時に走るように改良した。

文字列の並列処理の例題として、Word Count、正規表現の実装を行なった。
文字列処理を並列実行する際、ファイルを一定の大きさに分割して、それぞれに対して文字列処理を行う。
それぞれの分割されたファイルに対して処理を行なったあと結果が出力される。

それぞれの結果を合計する際に、分割された部分に対して各例題工夫をすることによって整合性を取る必要がある。

本論文では文字列処理だけでなくファイルの読み込みまでを含む文字列処理を考慮した並列処理を実装し、処理全体の速度を上げるような実装を行なった。

      </div>

      <div class='slide'>
    <h2>Cerium Task Manager</h2>
    <object data="images/cerium/createTask.svg"  width="50%" type="image/svg+xml"></object><br>
      </div>


      <div class='slide'>
    <h2>mmap の特徴</h2>
    <object data="images/cerium/mmap.svg" width="50%" type="image/svg+xml"></object><br>
    <br>

    <ul>
      <li>
      mmap は、仮想メモリ空間にファイルの中身を対応させ、そのメモリ空間に
      アクセスされたら、 OS が読み込みを行う。<br>
      </li>
      <li>
      code の記述はシンプルだが、スレッドが読み込み終わるまで待たされる。 <br>
      </li>
      <li>
      読み込みが OS 依存となるので、環境に左右されやすく、読み込みを細かく制御することが難しい。
      </li>
    </ul>
      </div>

      <div class='slide'>
    <h2>読み込みながら文字列処理を行う Blocked Read</h2>
    <p>mmap を使用せずに、read を独立したスレッドで実行させる。そして、読み込んだ部分に対して Word Count を並列に起動する。
    </p>
    <br>
    <object data="images/cerium/blockedread.svg" width="50%" type="image/svg+xml"></object><br>
    <br>

    <ul>
        <li> read は全て読み込み終えるまで連続で動作しファイルを読み込む </li>
        <li> read の待ちは CPU を消費しない </li>
        <li> 読み込み終わったブロックに対して、Word Count を起動する </li>
        <li>
        WordCount Task を一度に全て生成すると、その Task でメモリを圧迫するので、
        ある程度の数でまとめた Block という単位で徐々に Task を起動していく。
        </li>
    </ul>
</div>

      <div class='slide'>
    <h2>独立した CPU で処理</h2>
    <object data="images/cerium/speblockedread.svg" width="50%"  type="image/svg+xml"></object><br>
    <object data="images/cerium/iothread.svg"  width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>文字列処理の並列処理</h2>
    <object data="images/example/dividefile.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>Word Count</h2>
    <object data="images/example/wordcount.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>Boyer-Moore String Search</h2>
    <object data="images/example/bmsearchinclude.svg" width="50%"  type="image/svg+xml"></object><br>
    <object data="images/example/bmsearchsame.svg" width="50%"  type="image/svg+xml"></object><br>
    <object data="images/example/bmsearchthink.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>正規表現の一例</h2>
    <object data="images/regex/regexbasic.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>


      <div class='slide'>
    <h2>parser</h2>
    <object data="images/regex/parser.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>連接</h2>
    <object data="images/regex/regexseq.svg" width="50%"  type="image/svg+xml"></object><br>
    <object data="images/regex/regexseq2.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>


      <div class='slide'>
    <h2>| の接続</h2>
    <object data="images/regex/regexselect.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>* の組み合わせ</h2>
    <object data="images/regex/regexasta.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2> | * の接続</h2>
    <object data="images/regex/regexgroup.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>正規表現の連接</h2>
    <object data="images/regex/regexseqregex.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>


      <div class='slide'>
    <h2>正規表現木をオートマトンの状態遷移に沿って状態割当</h2>
    <object data="images/regex/allostate.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>DFA</h2>
    <object data="images/regex/dfaregex.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>NFA</h2>
    <object data="images/regex/nfaex.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>


      <div class='slide'>
    <h2>1入力で複数の状態遷移先があれば、その状態をまとめる</h2>
    <object data="images/regex/nfa.svg" width="30%"  type="image/svg+xml"></object><br>
    <object data="images/regex/dfa.svg" width="30%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>文字クラスの構造</h2>
<pre>
typedef struct utf8Range {
    unsigned long begin;
    unsigned long end;
} RangeList , *RangeListPtr;

typedef struct condition {
    RangeList range;
} Condition, *ConditionList;

typedef struct charClass {
    struct charClass *left;
    struct charClass *right;
    Condition cond;
    int stateNum;
    BitVector nextState;
} CharClass, *CharClassPtr;
</pre>
      </div>

      <div class='slide'>
    <h2>cc tree merge pattern</h2>
    <object data="images/regex/CharClassMergePattern.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>


      <div class='slide'>
    <h2>Subset Construction</h2>
    <object data="images/regex/sc.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>


      <div class='slide'>
    <h2>Bit Pattern での状態の表現</h2>
      </div>

      <div class='slide'>
    <h2>State Array</h2>
    <object data="images/regex/statearray.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
    <h2>正規表現の整合性</h2>
    <object data="images/regex/regexdivide.svg" width="50%"  type="image/svg+xml"></object><br>
      </div>

      <div class='slide'>
<h2>実験概要</h2>
<p>実験環境</p>
<ul>
    <li>OS：MacOS 10.10.5</li>
    <li>CPU：2*2.66GHz 6-Core Intel Xeon</li>
    <li>HDD :  1TB 7200 rpm SATA 3.0 Gbps </li>
</ul>
      </div>

      <div class='slide'>
  <h2>実験1:Word Count</h2>
  <p>全ての実験のfile size</p>
<table  border="2" cellpadding="0" cellspacing="0">
    <tbody>
        <tr>
            <td align=center>read mode \ CPU num</td>
            <td></td>
            <td align=center>CPU 1</td>
            <td align=center>CPU 4</td>
            <td align=center>CPU 8</td>
            <td align=center>CPU 12</td>
            <td align=center>GPU(CUDA)</td>
        </tr>
        <tr>
            <td align=center>mmap</td>
            <td></td>
            <td>15.353</td>
            <td>11.287</td>
            <td>11.707</td>
            <td>11.137</td>
            <td><div align=right>103.410</div></td>
        </tr>
        <tr>
            <td align=center>read</td>
            <td></td>
            <td>16.846</td>
            <td>11.730</td>
            <td>11.487</td>
            <td>11.437</td>
            <td><div align=right>106.050</div></td>
        </tr>
        <tr>
            <td align=center>Blocked Read(SPE_ANY)</td>
            <td></td>
            <td>13.297</td>
            <td>11.984</td>
            <td>10.887</td>
            <td>11.146</td>
            <td><div align=right>94.626</div></td>
        </tr>
        <tr>
            <td align=center>Blocked Read(IO_0)</td>
            <td></td>
            <td>11.503</td>
            <td>11.437</td>
            <td>11.365</td>
            <td>11.412</td>
            <td><div align=right>94.496</div></td>
            <!--
            <td bgcolor="#ffffcc">Blocked Read(IO_0)</td>
            <td bgcolor="#ffffcc">99.2</td>
            -->
        </tr>
    </tbody>
</table>

<ul>
<li> hoge </li>
<li> <font color=red>hoge</font></li>
</ul>

<table  border="2" cellpadding="0" cellspacing="0">
    <tbody>
        <tr>
            <td align=center>read mode \ CPU num</td>
            <td></td>
            <td align=center>CPU 12</td>
            <td align=center>GPU</td>
        </tr>
        <tr>
            <td align=center>mmap</td>
            <td></td>
            <td><div align=right>0.854</div></td>
            <td><div align=right>94.479</div></td>
        </tr>
        <tr>
            <td align=center>read</td>
            <td></td>
            <td><div align=right>1.487</div></td>
            <td><div align=right>94.614</div></td>
        </tr>
        <tr>
            <td align=center>Blocked Read(SPE_ANY)</td>
            <td></td>
            <td><div align=right>0.847</div></td>
            <td><div align=right>93.920</div></td>
        </tr>
        <tr>
            <td align=center>Blocked Read(IO_0)</td>
            <td></td>
            <td><div align=right>0.866</div></td>
            <td><div align=right>93.912</div></td>
        </tr>
    </tbody>
</table>
</div>

      <div class='slide'>
    <h2>Boyer-Moore String Search</h2>
      </div>

      <div class='slide'>
    <h2>正規表現</h2>
      </div>

      <div class='slide'>
    <h2>まとめ</h2>
    <ul>
        <li> I/O と Task を分離し、同時に動くように改良し、どの環境でも安定した速度が出た。 </li>
        <li> I/O 専用の Thread の追加 </li>
        <li>
        mmap でも一度に読み込む大きさを小さくすれば、Blocked Read とほぼ同じ速度が出る。
        </li>
    </ul>
    <h2 class="yellow">今後の課題</h2>
    <ul>
        <li> Cerium の API として実装 </li>
        <li>
        様々な実装の試み<br>(I/O threads を 2つ使用したプログラム、分割 mmap)
        </li>
        <li>
        様々な環境での測定
        </li>
        <li>
        grepの実装
        </li>
    </ul>
      </div>


      <div class='slide'>
    <h2>状態をまとめる</h2>
    <object data="images/regex/wordstate.svg" type="image/svg+xml" width="50%"></object><br>
      </div>


</div> <!-- presentation -->
</body>
</html>
author	Masataka Kohagura <kohagura@cr.ie.u-ryukyu.ac.jp>
date	Thu, 18 Feb 2016 12:48:38 +0900
parents	a4af6428370a
children	ca50770a7fde