本当は怖い情報科学

とあるHPC屋の趣味&実益ブログ

気になったHPC・AI関係のニュース 2017/02/20

HPC関係

Tokyo Tech's TSUBAME3.0 Will Be First HPE-SGI Super

一番のニュースは,東工大のTSUBAME3.0スパコンの受注者と詳細スペックが決まったというニュースでしょう.受注者はHPE(Hewlett Packard Enterprise)で,厳密には日本法人のSGI Japanとなっています.同じ松岡教授が指揮する産総研のABCIの先行モデルとなると思われます.

ハードウェアスペックとしては,14コアのBroadwell CPU ×2(計28コア) +NVIDIAのP100GPUが4機 + メモリはDDR4 256GB + ノードあたりのローカルストレージとしてSSDが2TBという超ファットノードのマシンで,Intel Omni Pathで接続されています.

全体では,倍精度演算性能12.5PFlops,NVIDIA P100 GPUを2160機となっています.

ノード構成としては,スペック的にはモンスターマシンであるものの,構成としては標準技術と既存技術の組み合わせです.冷却さえきちんとされれば安定した稼働が期待できそうです.

ポイントは,GPU同士のRDMA(Remote Direct Memory Access)がIntel Omni Pathで動くのかというところでしょうか.東大のOakleaf-PACSではOmni Pathが採用されていますがノードはXeon Phiで,ReedbushではP100 GPUが採用されていますがインターコネクトはInfinibandです.Omni Path + P100 GPUを組み合わせた大規模マシンは世界で初めてではないかと思います.

なお,ストレージはDDNです(いつもの)

現在と将来の OpenMP* API 仕様 | iSUS

OpenMP5.0の機能に関するまとめ.

Taskベースのプログラミングは,Intel TBBをはじめ,長らくライブラリとして提供されてきました.旧来のforループの並列化をベースとする機能では不十分な場面が多く,不規則な並列性が必要とされる場面ではタスクベースの並列化ライブラリは重宝します.

様々な機能がOpneMPに集約されていくのは良いことですね.おそらく,OpenACCとして定義されているアクセラレータ向けプログラミングも統合されていく流れになるでしょうから,そうなればOpenMPで様々な並列環境でのプログラミングが統一的に書けるようになるのかもしれません.

insideHPC Research Report Are FPGAs the answer to the “Compute Gap?” - insideHPC

InsideHPCによる,FPGAに関するWhite paper.読むためには 個人情報の送信が必要ですが.

6ページほどの文書で,長すぎず短すぎず,良い分量だと思います.メインとなる部分は「5 Myths About FPGAs」ということで,FPGAに関する誤解を解説するというスタイルで,残りの部分はIntelのFPGA(Arria 10)のスペック説明と宣伝となっています.

Intersect360 Offers Topside View of HPC Market | TOP500 Supercomputer Sites

HPCシステムの市場調査のまとめ.調査対象となったHPCシステムのベンダー別の受注割合がまとめられています.一位から順にDell EMC, HPE, Lenovo, SGIとなっています.本文にも書かれていますが,SGIはHPEの一部なので,これを合算するとHPEがダントツ一位という結果になりそうです.

インターコネクトはMellanoxのInfinibandが現状では多数を占めていますが,IntelのOmni Pathがこれからどの程度食い込んでくるでしょうか

なおストレージはDNN無双の模様

John Gustafson presents: Beyond Floating Point - Next Generation Computer Arithmetic - insideHPC

シンガポール国立大学のJohn Gustafson教授が,既存のIEEE754の浮動小数点に変わる新しい “posit” という演算フォーマットを提案しています.

まだ詳細を理解していないので中身については解説できないのですが,低精度でも十分な機械学習が隆盛を見せている今,浮動小数点についても考え直すいい機会なのかもしれません.

機械学習・AI関係

Chinese Firms Racing to the Front of the AI Revolution | TOP500 Supercomputer Sites

現在,人工知能技術(AI)を牽引しているのはGoogle, Facebook, Microsoftなどのアメリカ企業ですが,Baidu, Alibaba, Tencentなどの中国企業も猛烈にキャッチアップしているという記事です.

現在,AIはノウハウの蓄積+計算パワーの戦いとなっており,HPCシステムで膨大な計算能力を持つ中国が本腰を入れると脅威となると思われます.中国は,技術の方向性が定まったあとの力技による猛追には定評がありますので,日本は頑張りたいところです

HPC分野における中国の躍進については Rise of China, Real-World Benchmarks Top Supercomputing Agenda がよいまとめとなっています.

ChainerMN による分散深層学習の性能について | Preferred Research

Prefered Networksが,MPIを利用した分散版 Chainerについて発表しています. 128GPUまで,ほぼ線形にスケールしているということなので,これから構築されるであろう産総研ABCI等での活用も期待されますね.

担当者である秋葉氏による動画の解説もあります

www.youtube.com

Deep learningフレームワークとMPIの関係については Pushing MPI into the Deep Learning Training Stack によくまとめられています.

その他

なぜこれが差別なの? Cultural Appropriationとは? 日本人女性の格好で撮影したモデルが謝罪 - Togetterまとめ

白人の女優が着物を着て日本文化をテーマにした写真を撮影したところ,それが差別にあたるとなって問題となった事案です.普通の日本人にとって(私も含む)これは直感的には理解しがたいことが多いと思いますが,これはCultral appropriationと呼ばれる問題と,representation(whitewashing)と呼ばれる問題の2つの見方があるそうです.解説は私の手に余りますが,以下に挙げる記事およびshrioさんの解説が参考になりました.

なぜ白人が日本人の格好をすると批判されるのか

気になったHPC・AI関係のニュース 2017/02/12

最近忙しさにかまけて情報収集がおろそかだなあと思ったところ、インプットのためにはアウトプットをするのが良しと言われるので気になったニュースをまとめて記事にすることにしました。ブログもしばらく放置状態だったので一石二鳥で。

プロセッサ関係

【後藤弘茂のWeekly海外ニュース】NVIDIAのTegraを採用する任天堂の新ゲーム機「Nintendo Switch」 - PC Watch

各所で話題になっていますが、Nintendo SwitchがNVIDIA Tegra X1だというニュース。Deep Learning向けのGPUが調子いいですが、しばらくNVIDIAのウハウハ状態は続くのでしょうか。

後藤さんは、プロセス世代については16nm FinFETではないかと書かれていますが、確かに元のTegra X1だと20nmなのでさすがに古いのではないかという話。Snapdragon835は10nm世代突入ですし。

【イベントレポート】Qualcomm、10nmプロセス/8コア SoC「Snapdragon 835」を正式発表 ~820比で消費電力は25%削減、GPU性能は25%向上。Windows 10にも対応 - PC Watch

Intelなどの他社に先駆けて10nmプロセスで製造されるというSnapdraton835が発表されたというニュース。現時点でIntelのKabyLake世代が14nm+のプロセスで、Cannon Lake世代が2017年末に10nmで投入ということなので、だいぶ先を行っているようです。

HPC

Best Practice Guide - Knights Landing, January 2017 - PRACE Research Infrastructure (InsideHPC 経由)

Intel Xeon Phi(Knights Landing)のチューニング方法のまとめ

Putting ARM-Based Microservers Through The Paces

クラウドとHPC環境へ、ARMベースのプロセッサがメインストリームとして導入されるかどうかに関するまとめ

マイクロアーキテクチャーのトップダウン解析法を使用してアプリケーションをチューニングする | iSUS

ちゃんと書かれたチューニング系の記事は、実質上プロセッサの内部構造に関するドキュメントでもあるので勉強になります

Orchestrating HPC Engineering in the Cloud

ちょっとANSYSの提灯記事っぽいですが、Cloud環境でのHPCを採用する最大の障害は、実は技術ではなくライセンス体系だという点を指摘した記事。

プログラミング関係

Bartek's coding blog: C++ 17 Features

C++17の新機能のまとめ。

「知的能力は父ではなく母から受け継がれる」というトンデモ記事について

f:id:keisukefukuda:20130304195340j:plain

研究者ではない心理学系メディアの記事が、転載に次ぐ転載を経て「米国の専門家の新しい発見によると~」 となって世間を震撼(?)させるまでの過程を追いかけました

※ 私は生物学・遺伝学・心理学の専門知識はありません。素人です。あしからず。

発端

Feedlyでニュースを見ていたところ、この記事が随分とバズっていたようです。

学者、どちらの両親から子どもが知性を受け継ぐか明らかにする

(正直、あまりリンクは張りたくはないのですが…)

これは、一言で言えば「知的能力は父ではなく母から受け継がれる」という内容で、かなりショッキングな 「発見」に、皆さん悲喜こもごもの反応をしているようです。まあ、直感的に「トンデモ学者の飛ばし記事だろうな」という予測はつくのですが、一応調べておきましょう。日本語でも英語でも、いくつもの反論記事が載せられています。

kenko100.jp

さらに興味がある方は、下記の2つの英語のサイトが参考になるでしょう。ForbesとQuoraです。

No, Research Has Not Established That You Inherited Your Intelligence From Your Mother

Is it true that intelligence is inherited from the mother? - Quora

ただし個人的に気になるのは、「健康百科」では

近年、ゲノムの解析技術が目覚ましく進歩し、ついに結論が出た。頭が良くなる遺伝子はなく、知能は遺伝子で決まるものではないことが分かったのだ。

と書いてあるのですが、これはこれで本当なのか?という気がします。教授本人がそういったのか、記者の方が勝手に書いたのかどうかわかりませんけど。「知能」という言葉の定義が曖昧ですが、直感的に考えると「全く関係ない」というのも飛ばしすぎなのでは…?と思います。しかも、遺伝が知能に与える影響って、「ゲノムの解析技術が上がったから」ってわかるものではないと思うのですが…。この手の話はセンシティブな話題になりがちで、一線の研究者がおおっぴらに話すのが難しいという事情もありそうな気はします。

natgeo.nikkeibp.co.jp

一応書いておくと、遺伝的な影響は別として、子供の知能の発達に母親が及ぼす影響が大きいというのは事実です。 知能の発達には、特に幼児期の体験・健康状態が大きく影響します。 そして、幼児が接する時間が最も長いのは母親であるケースが多く、母親による子供への接し方が知能の発達に大きく貢献します。 例えば、絵本を読み聞かせるなど様々な知的刺激を与えれば、子供の知能の発達には良い影響があるでしょう。 逆に、テレビを見せたまま放置したりすれば悪影響があるのは明らかです。 これについては各所で触れられているので深入りしません。

発生源はどこか

さて、話を本題に戻しましょう。興味があるのは、そもそもの発端がどこかということです。 情報を辿っていくと、とある記事が「Second Nexus」というウェブサイトに掲載されたことによってバズったようです。

おおもとはこの記事です。

http://www.psychology-spot.com/2016/03/did-you-know-that-intelligence-is.html

この記事を書いた人物、Jennifer Delgado Suárezという方です。LinkedInの経歴によれば、キューバのUCLVという大学で心理学の 修士号を取得、その後大学での勤務後にメディアサイト事業を立ち上げた方のようです。

https://es.linkedin.com/in/jennifer-delgado-su%C3%A1rez-31887118 http://www.intextos.com/p/about-us.html

さて、肝心の記事の内容ですが、うーん。 正直あまり深く追求する気にならないのですが、この記事によれば「conditioned gene」なるものが重要で、 “origin”(父親由来か母親由来か)によって働きが違うそうです。 しかしこの用語、検索してみても、この記事(とその派生記事)しか出てこなくて、正体がよくわかりません。

conditonal geneなら、「条件遺伝子」という概念はありますが、「発生元によって」挙動が決まる なんていう話は見かけません。

さらに、

Mother's genes go directly to the cerebral cortex, those of the father to the limbic system

(母親の遺伝子は直接に大脳皮質へ行き、父親の遺伝子は大脳辺縁系に行く)

え?え?え?

ちなみに、Jenniferさんはきちんと(?)参考文献を列挙しているのですが、それらが全体的に古い。 知能の遺伝に関するものは2001年、「知能関係の遺伝子はX染色体に密度が高い」というようなものです。 論文のタイトルを見渡しても、本文と関係ありそうな論文はありませんね…

上記の「健康百科」の記事でインタビューに答えられている東大の石浦教授は、かなり紳士&真摯なお方のようで、 元になったサイトを直接的に批判・検証するようなことはしていらっしゃいません。

 石浦教授によると、遺伝的に知的障害がある家系を調べると、原因となる遺伝子がX染色体に乗っていることが多い。そのため、X染色体には何か知能に関係する遺伝子があるのではないかと、かつては考えられていたという。ここから、冒頭の説が浮上したようだ。

ギリギリ言えるのは、QuoraでDrew Smith博士が述べているように、X染色体に知能(あるいは知的障害)に関係する部分が多いとすれば、男性のそれは母親由来である、ということくらいですね(男性のX染色体は必ず母親由来なので)。

Quoraの元記事に対しての反応は、要するに「いろいろ混同してバカジャネーノ」ということのようです。

流行までの過程:飛ばし系メディアに転載され…

上記のような記事なのですが、それがGlobal Newsというサイト上で紹介されたときには、”New research says”(新しい研究によると)、”According to recent findings”(最近の発見によると)となっていて、いつのまにやら「新しい」「研究」だということになっています。

http://globalnews.ca/news/2945023/mom-genes-new-research-says-intelligence-is-inherited-from-mothers/

上でも述べたように、これは「研究」ではないし、Jennifer Delgadoさんはお世辞にも「Researcher」ではないし、ましてや「Recent findings」でも「New research」でもありません。それが、このようにeye-catchingな見出しとともに転載に次ぐ転載をされ、いつのまにやら真実であるかのように広まってしまったのは悲しいことです。

さらに、それが日本語のサイト

https://jp.sputniknews.com/science/201609222802655/

に転載されたときには「このような結論に至ったのは米専門家だ」と、いつの間にかJenniferさんはアメリカ人の専門家になってしまっています。 しかも、Global Newsの記事では「Intelligence(知能)」と書いてあるところが、この記事では「IQ」ということになっています。

ちなみに、「グローバルニュースが報じた」と書いていますが、元記事やその他情報ソースへのリンクは一切なし。 百歩譲ってGlobal Newsの飛ばし記事を翻訳・紹介しただけだとしても、こういう改変はやめてほしいものです。

このように、古い論文を引用・曲解した飛ばし記事が、ニュースメディアによって「専門家によると…」と尾ひれがついて 転載され、このような衝撃的な見出しとともに広まってしまう現象は見ていて物悲しいですね。 残念ながら時間は有限ですが、常に「自分の頭で考え、調べる」という習慣をつけたいものです。

【広告】