「科学、情熱、そして多目的最適化の未来」

「美容、ファッション、そして多様な目的に最適化された未来」

Aarón Blanco Tejedor氏による写真(引用元:Unsplash)

Coello Coello教授との詳細なインタビュー

カルロス・アルテミオ・コエージョ・コエージョ教授は、生物に触発されたメタヒューリスティクスを通じた多目的最適化の分野でのパイオニアです。彼は1996年にチューレーン大学でコンピュータ科学の博士号を取得し、メキシコシティのCINVESTAV-IPNのコンピュータ科学部で正教授を務めています。彼はその画期的な貢献で知られており、Google Scholarによると68,000件以上の引用とH指数102を持っています。特に、彼はOSPHEREによって開発された2016年の上海グローバル学術科目ランキングで最も引用されたコンピュータ科学者300人の中に含まれていました。彼のキャリアを通じて、コエージョ教授は多目的最適化の役割、トランスフォーマベースモデルの多くの突破における最も重要な特性、そして多目的最適化領域が異なるアプローチを取るべきであると考えているかについて、この記事で紹介されています。

自分の研究の興味深い経緯について話していただけますか?1996年、チューレーン大学で博士号のための適切な研究トピックを特定する必要がありました。進化的多目的最適化に取り組むことになった経緯を簡単に教えていただけますか?

これは長い話なので、簡潔に説明します。チューレーン大学でコンピュータ科学の修士号、そしてその後博士号を取得するためにやってきた時、自分がどのトピックで研究したいかはわかりませんでした。ソフトウェアエンジニアリングやデータベースはやりたくありませんでした。最初にプログラミング言語を試しましたがうまくいきませんでした。その後ロボット工学を試しましたがうまくいきませんでした。偶然のことですが、ある日、遺伝的アルゴリズムを使用して構造最適化問題を解決するための論文を読みました。私はこの論文にコースの課題を捧げ、独自の遺伝的アルゴリズムを開発し、解析のためのソフトウェアを作りました。遺伝的アルゴリズムが比較的簡単に複雑な最適化問題に対して良い解を生成することができることを見て、非常に興奮しました。この進化的アルゴリズムへの興奮は私の一生涯続いています。

ただし、チューレーン大学の2人の教授は進化的アルゴリズムを扱っていましたが、私はロボット工学の教授と一緒に進むことを決めました。彼は進化計算についてはあまり詳しく知りませんでしたし、私も詳しく知りませんでしたが、一緒に働けると思いました。そのため、彼は私に適切なトピックを見つけるのを助けることはできませんでした。進化的アルゴリズムを扱っていたビル・バックルス教授は、多くの人がその領域でアルゴリズムを使用していないため、多目的最適化での研究をするように私に勧めました。関連する論文を探した後、私はPhDのトピックを見つけました。偶然の産物として、全てが計画的なものではないままにうまく結びついていきました。私は多くの素晴らしいことがあると信じていますが、それは計画されたものではなく、偶然の産物であるということです。

進化計算に興味を持ったきっかけを教えてください。

古典的な最適化と進化的アルゴリズムの間には大きな違いがあります。古典的な最適化は主に数学と微積分に依存していますが、進化的アルゴリズムは自然現象に触発されています。自然が種を異なる方法で適応させ、単に生存を目指すだけであることに私は魅了されます。そして、それがある個体のメカニズムを改善するための非常に強力なツールであることにも魅了されます。私たちは、進化的アルゴリズムでこのプロセスをシミュレートしていますが、それは自然で起こることの粗い、低品質バージョンです。

進化的アルゴリズムは、複雑な自然現象を反映した単純なフレームワークのように見えますが、逆説的にも優れた問題解決能力を持っています。彼らがなぜそれほど優れているのかを理解するために、私はまだ困惑しています。私は自然進化に関連する多くの論文を読みました。また、科学雑誌などの非専門的なものでも調査しました。

アルゴリズムと自然進化の関係はいつも私を引きつけるものでした。もし状況が許してくれたら−知識、時間、スキルがあれば−彼らがどのように機能するのかを理解しようとするために、自分のキャリアの残りをささげるつもりです。

多目的最適化の分野はどのように進化してきたのでしょうか?

多目的最適化の分野は比較的狭いですが、私の旅は研究者の数が限られていた時代に始まりましたので、機会が豊富でした。これにより、さまざまなトピックを探求することができました。ランドスケープは変化しましたが、論文の増加にもかかわらず、独自の視点がまだ欠けていると感じています。

なぜこの視点が不足しているのでしょうか?

研究者は挑戦的な問題に踏み込むことや研究テーマの範囲を拡大することには少し躊躇しています。また、方法論の堅固な説明を提供することにも苦心しています。私たちはまだ挑戦的な問題に取り組む勇気がなく、挑戦的な研究テーマにも取り組んでおらず、私たちが行ったことの多くを説明することができていません。具体的な問題に対しては十分な技術を持っていますが、これらの技術の根本原理に対する深い理解が不足しています。多くの人々は提案に重点を置いているため、理解にはあまり注力していません。この認識によって、私の焦点が変わりました。

この発展の中であなたはどのような役割を果たしますか?

私が成熟するにつれて、私の優先順位は提案だけでなく理解にシフトしてきました。もし他の誰もこの仕事を引き受けないなら、私たちにそれをする責任があると考えています。アルゴリズムの効果の仕組みや理由を解析して理解することは困難な取り組みですが、本当の科学的な進歩には必要不可欠だと考えています。問題に対して200個ではなく2つまたは3つの方法しか持たないかもしれません。これらの方法をすべて分類する方法がなければ、新しいツールを正当化することはできず、この方向で進むことにはあまり意味がないと思います。もちろん、人々は引き続き生産し続けるでしょうし、それはいいことです。しかし、私たちが理解を欠いている場合、将来のない分野になると思います。最終的に、私の目標は新たなツールの必要性を判断する前に既存のツールを理解することに向けることです。

既存の方法をより理解するためにはどうすればいいですか?

私たちはもっと既に持っているものを理解することに時間を費やすべきです。そして、本当に必要なものを評価することができます。私たちは境界領域のニーズに基づいて取り組むべきであり、より多くの出版物を持ちたいという欲望に基づいて取り組むべきではありません。もしもそのようなツールが存在しないのなら、それを開発するために取り組むべきです。その後、研究は数字を生み出す方向ではなく、ニーズに対してさらに進むべきです。

これらの質問は特定のアルゴリズムがなぜ機能するのかを理解することに集中していますか?

そうですね、それだけではありません。特定のアルゴリズムがなぜ機能するのかという質問は確かに重要ですが、私たちの問い合わせはそれだけに限定されるべきではありません。アルゴリズムとアプリケーションの最適なマッチング方法についても深く探求する必要があります。複数のアルゴリズムが提示された場合、実践者は特定のアプリケーションに最適なものを選ぶことに悩むことがよくあります。それが組合せ最適化であろうと連続最適化であろうと、各アルゴリズムの理想的なシナリオを弁別することに曖昧さがあります。

現在では、さらなる特徴づけが不要な特定のタスクに設計されたアルゴリズムは存在しませんが、一般的なアルゴリズムを理解し、おそらく分類することも重要です。それらの操作についてもっと情報を抽出し、それらが本当に普遍的に適用可能なのか、特定のタスクに結び付けるべきなのかを評価することを目指すべきです。

アルゴリズム以外にも、スカラー化関数、交叉演算子、突然変異演算子、保存技術などのツールや技術があります。これらの中にはたくさんのものが存在します。しかし、多くの場合、よく使われるのはごく一部です。それは歴史的に使用されてきたからであり、効果を本質的に理解しているからではありません。私たちは「なぜ一つの方法を他の方法よりも選ぶのか?」といったより広範で洞察に富んだ問いに取り組むべきです。これらのより広範で微妙な問いこそが私たちの領域が焦点を当てるべきです。

進化アルゴリズムが多目的最適化においてどのように機能するかを説明していただけますか?

進化アルゴリズムは通常ランダムに生成された解のコレクションから始まります。これらの解は最初は低い品質を持っていますが、選択プロセスを通じて徐々にパレートフロントに進化します。ただし、パレートフロントが生成されたとしても、通常はユーザーがすべての解を必要としない場合があります。そして、数個または1つの解が選択されます。ただし、パレートフロント上の適切な解を選択することは最適化ではなく、意思決定なのです。

意思決定では、ユーザーの好みに基づいてパレートフロントからいくつかまたは1つの解を選択します。ユーザーの好みを決定することは、明確なトレードオフがある場合は容易ですが、好みが不確かな場合、アルゴリズムはユーザーが評価し選択するためのいくつかの可能性を生成します。これは最適化から逸脱して意思決定に入ります。したがって、多目的最適化では、モデリング、最適化、および意思決定の3つの異なる段階があります。

私は主に最適化の側面に焦点を当てています。他の研究者、特にオペレーションズリサーチの研究者は意思決定に取り組んでおり、一部の研究者は両方に取り組んでいます。これらの対話的なアプローチでは、最適化器を数回実行した後、ユーザーの希望する方向についての入力を求め、ユーザーの好みに基づいて解を生成します。これらの対話的な手法は効果的な場合もありますが、簡潔で意味のあるユーザーのクエリを作成することは、彼らを圧倒しないためには非常に重要です。

以前の外出で、あなたはPhDを選ぶ最も重要な基準は情熱ですと述べました。情熱をどのように評価しますか?

理想的な学生は情熱的でありながらも優れたプログラマーや数学者でもあることが望ましいです。残念ながら、これらのスキルを持つ学生は稀であり、これらの間にバランスを見つける必要があります。これは多目的最適化問題そのものと言えるでしょう。私の評価では、情熱が他の特性やスキルに比べて重要です。

情熱を評価することは定義が複雑ですが、認識するのは明白です。私がそれに出会った時、本物の情熱と見せかけの熱意を見分けるための第六感のようなものが私を導いてくれます。明白な兆候の一つは、常に割り当てられたタスクの範囲を超え続け、常に期待を上回る学生です。しかしこれだけが唯一の指標ではありません。情熱のある人々は飽くなき好奇心を発揮し、自分のテーマに関してだけでなく関連する分野に独自に深入りします。彼らは概念を結びつけ、見かけ上異なる要素を自分の仕事に結びつけます。このような創造的な関連性が関わる研究において重要な特性です。私の経験から言えば、内在的な情熱を持つ人々は自分のテーマの奥深さを探求することに傾倒し、直接の指示を超えた要素を探求する親和性を持っています。こうした学生たちは、予め与えられた答えを求めるだけでなく、自分の理解を豊かにする道を見つけ出そうとします。

最後の要素は、彼らのスキルを活用し育てることです。情熱に優れる学生であっても、他の能力が不足している場合があります。望ましい特性をすべて持った学生を見つけることは稀です。通常、学生は特定の側面で優れ、他の側面でも優れた能力を持っています。例えば、学生は情熱に優れ、良好なプログラミングスキルを持ち、それほど非凡ではありませんがしっかりとした数学の基礎を持っているかもしれません。これらの属性のバランスを取ることは、個々の能力に基づいて学生から最大限の成果を引き出す多目的な問題です。

なぜ情熱は重要なのですか?

私は何人かの優れた学生に出会ったことがありますが、彼らに情熱の炎が欠けていました。その結果、私たちが関わった仕事はかなり平凡で魅力に欠けるものに感じました。情熱的な学生は自らの成長を追求するだけでなく、私の対象への情熱も再燃させます。彼らは私に挑戦し、私をトピックの深部に引き込み、協力プロセスをより刺激的なものにします。一方、単なる動作を行い、深く掘り下げる意欲がない学生は同様の興奮を引き起こしません。このような状況は、単に卒業のためのチェックボックスを埋めることになり、知識とアイデアの豊かな交流よりもむしろ取引に関するものとなります。言い換えれば、情熱がないと、経験は活気に欠け、学術的な協力が真に報酬をもたらすものから遠ざかってしまいます。

あなたは、多くの論文をただ研究の類比に従って作成するよりも、少数の価値ある貢献を望まれます。類似性に基づく研究には通常あまり新規性がないため、それは大学で行われるべきですか?

この質問は、大学の研究活動の目標に関する基本的な考慮事項を提起しています。類似性による研究には確かにその場所があります。特定の方向において知識の限界を徐々に押し広げるためには必要です。たとえば、多目的最適化の文脈では、過去18年間にわたり、改善されたアルゴリズムの開発を通じて重要な進展がありました。この成功は、類似性による研究の役割を裏付けています。

ただし、類似性による研究への過度の依存は真に革新的なアイデアの受け入れを妨げる可能性があります。新しいアイデアが導入される際には、大部分が徐々に進歩を重んじるシステム内で抵抗に直面するかもしれません。そのため、研究の両方のモードが調和して共存することが重要です。機関、評価システム、学術ジャーナルは、どちらも促進する必要があります。類似性による研究は着実な進歩のための基盤として機能し、画期的なアイデアの育成は分野を前進させます。共存により、既存の知識を築き上げる一方で、未知の領域に向かう可能性のある道筋を歩んでいきます。どちらのアプローチも欠けた将来は最適ではありません。したがって、バランスの取れたエコシステムを育成することにより、分野が活気に満ち、適応性があり、成長の余地があることを確保します。

あなたのジャーナルでもこれを奨励していますか?

最善を尽くしていますが、私だけでは全てをコントロールすることは難しいです。結果は共同編集者や査読者の貢献にかかっています。新しいアイデアを持つ論文を拒否することはできるだけ避けるように努力していますが、常に実現可能なわけではありません。残念ながら、本当に新しい概念を持つ論文に出会うことはますます稀になってきています。特に今年は、私が査読した論文の中に、私を魅了する非常に興味深いアイデアが特筆されるものがありました。これは過去15年で最も注目すべき発見です。ただ、このような出来事は頻繁には起こりません。

計算インテリジェンスは、以前は進化計算、ファジィロジック、ニューラルネットワークに分かれていましたが、最後の10年で特にトランスフォーマーモデルにおいて画期的な進展がありました。この新たな状況において、進化計算はどのような役割を果たせるのでしょうか?

進化アルゴリズムは、従来はニューラルアーキテクチャを進化させるために使用されてきたが、まだ十分に活用されていない可能性があると私は考えています。既存のアルゴリズム(例:Adam)とシームレスに統合し、ニューラルネットワークのトレーニングに役立つ堅牢な最適化手法を設計する可能性があります。これに関しては、粒子群アプローチなど、いくつかの試みもありますが、これらの取り組みは主に小規模な問題に焦点を当てています。しかし、私は今後数年間でより複雑な課題の出現を予見しています。

さらに、私の知る人の中には、遺伝的プログラミングを使用して深層学習のパフォーマンスを再現できると強く信じています。このアイデアは「深層遺伝的プログラミング」と表現できます。遺伝的プログラミングに層状のツリーを組み込むことで、その構造は深層学習に似ています。これは従来のニューラルネットワークアプローチとは異なる未知の領域です。潜在的な利点は何でしょうか?おそらくより高い計算効率やさらなる精度を提供する可能性もあります。しかし、本当の利点はまだ探求されていません。

分類に遺伝的プログラミングを使用する研究者はいるものの、それは広く普及しているアプリケーションではありません。遺伝的プログラミングは主に発見的なヒューリスティックス、特に組合せ最適化に関連するハイパーヒューリスティックスの構築に使用されてきました。単一の分類問題に対する限定的な使用は、関連する計算コストが要因となっています。しかし、時間と技術の進歩により、変化が訪れることを期待しています。

まとめると、進化計算はまだ探求すべき広範な領域を持っており、ニューラルネットワークの拡張またはユニークな手法に挑戦することが求められています。共存とイノベーションに十分な余地があります。

ニューラルネットワークへの焦点は、優れたパフォーマンスによるトレンドなのか構造的な変化なのか、どちらと捉えますか?

多くのAI関係者はそれを流行だと言いますが、私はそう確信していません。私はこれが非常に強力なツールであり、ディープニューラルネットワークを凌駕するのは困難であると考えています。おそらく10〜15年後には起こるかもしれませんが、今はまだそうではありません。それらのパフォーマンスは、この領域に投資された広範な研究開発を考慮すると、容易に凌駕できる即時の競合相手がないほど優れています。おそらく10年以上たって、変化が起こるかもしれませんが、現在は無類の存在です。

ただし、AIはディープラーニングが主に扱う課題にのみ焦点を当てているわけではありません。ディープラーニングが主に対象としているため、多岐にわたるAIの課題や領域が存在しています。より広範な課題に焦点を移すことは有益であるかもしれません。

ディープラーニングモデルの脆弱性の1つとして、『ピクセル攻撃』への感受性があります。人間の目ではほとんど気づかれないような1つのピクセルを調整することで、これらのモデルを欺くことができます。最近、進化アルゴリズムがこれらのピクセル攻撃を実行するために使用され、ニューラルネットワークの脆弱性に光を当てています。これらの弱点を単に指摘するだけでなく、進化アルゴリズムがモデルの耐性を向上させる機会があります。これは、ディープラーニングと進化アルゴリズムの両方の強みを統合した有望なアプローチです。

インタビューはここで終わりです。最後のコメントはありますか?

私は研究がどの分野であれ、情熱に駆り立てられた人々にとって魅力的なものであると強調したいと思います。情熱は、自分のキャリアを研究に捧げる人々にとって重要な要素です。ツールを使うことは満足感をもたらしますが、真の研究は未知の問題の解決策を見つけ、見かけ上異なる要素を結びつけることを含みます。若い世代の興味を育むことは非常に重要です。科学は常に創造性にあふれ、進行中の複雑な課題に取り組む準備ができた新しい才能を求めています。気候変動、汚染、資源の枯渇などの重要な問題を考慮すると、科学の役割は私たちの生存にとって重要です。研究に興味を持たない人々もいるかもしれませんが、それに魅力を感じる人々にとっては、報酬のある旅程です。即時の富を得るための道ではないかもしれませんが、複雑な問題を解決し、世界の理解に貢献することには非常に大きな満足感があります。私自身がこの分野で旅を重ねる中で、それは興奮、喜び、そして達成感の源です。

このインタビューは、ベネルクス人工知能協会(BNVKI)の代表として行われました。私たちはベルギー、オランダ、ルクセンブルクのAI研究者を結集しています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more