タグ

AIに関するrryuのブックマーク (37)

  • 色違いのコイキングでLLMをバグらせろ:グリッチトークン入門|xcloche

    漢字が読めない最新AIChatGPTの最新モデル、GPT-5に「植物百科通って何ですか」と聞いてみよう。一般にはそんな言葉はないのだが、順当に考えると「植物百科に詳しい人」みたいな感じの回答になるだろうか? 実際のGPT-5の返答はこうなる: 例1, 例2 「meltdown」や「overclock**」と間違えやすい単語ではないですよね? ここでいう "meltdown" ではなく "melting"…いや違いますね。 おそらくあなたが聞いているのは "melange" や "melt" ではなく、"melt" でもない。 さて題。 "melange" …あれ、違う、質問は "melange" じゃなくて "meltdown" …すみません、私の脳内で脱線しました。(以下略) 例1「micro:bit(マイクロビット)」の文脈で「micro:bit + Edpuzzle」や「micro

    色違いのコイキングでLLMをバグらせろ:グリッチトークン入門|xcloche
    rryu
    rryu 2025/08/10
    トークンとして認識できるがそれが何なのか全く分からないって、オフチョベットしたテフをマブガッドしてリットにするみたいな感じか。
  • 将棋は大規模定跡によって終わってしまうのか? | やねうら王 公式サイトやねうら王 公式サイト

    floodgateという将棋AIの対局サイトでTuyouraOuというソフトが2週間レーティングで1位となった。 これは、私が放流しているソフトで、337万局面の大規模定跡を搭載している。dlshogiがWCSC35の時点で330万局面収録されているらしいので、(局面数においては)それを上回った形である。 どれくらいの精度の定跡が収録されているかについては、YouTuberのそらさんの動画がわかりやすい。 【前代未聞】世界1位のAIが「674兆局面調べて作られた定跡」を搭載している件 https://www.youtube.com/watch?v=IZ5-5yXwME0 実のところ、どの程度の精度の定跡になっているのか、私自身はあまり把握していない。各局面は、水匠10で1t(1スレッド) 2億ノードで掘っている。それをペタショック化(定跡ツリーをminimax化)して、使っている。 WCS

    rryu
    rryu 2025/06/09
    将棋の全探索は無理だが、AI学習で末端まで行くのは札束で叩けば行けるという感じなのかね。
  • 「プロの人間に任せたら時間かかるけど100点のものが出てくる一方、AIにやらせたら一瞬だがせいぜい70点」だと思ってるんだけど、世の中には70点のものさえ用意できれば十分な領域って沢山あるっぽい

    ヤス @Yasu_6363180 「プロの人間に任せたら時間かかるけど100点のものが出てくる一方、AIにやらせたら一瞬だがせいぜい70点」だと思ってるんだけど、世の中には70点のものさえ用意できれば十分な領域って沢山あるっぽい x.com/maochin39blue/… 2024-10-24 11:13:10 葵真碧(mao aoi)@生成AI推進派 @maochin39blue まあ、推進派やってるあたしも、この状況にはドン引きしてるのは、言うまでも無いわけだけどw 要はさぁ、よくあるデザイナーに無茶納期の仕事を振っても、AIで効率化されてりゃ、それなりのものが、単位間で出てくると思い込んでるわけよ。代理店の発想なんてもんはそんなもの。 x.com/Yasu_6363180/s… 2024-10-24 11:10:17 皆友ずい@昼は社長、夜はネトゲ廃人系VTuber @minato_

    「プロの人間に任せたら時間かかるけど100点のものが出てくる一方、AIにやらせたら一瞬だがせいぜい70点」だと思ってるんだけど、世の中には70点のものさえ用意できれば十分な領域って沢山あるっぽい
    rryu
    rryu 2024/10/25
    正解があるものだとその30点分が致命傷になる可能性があるが、正解の無い架空の話や架空の絵なら十分だという。人物画は人体構造的に不正解があるのでちょっと危うい。
  • 資料生成AI「Napkin」でデカめの資料を作ってみたので知見を共有する

    1.1.2 SREの目標と価値 SREの目標は、システムの信頼性を向上させることですが、それは単にシステムのダウンタイムを減らすことだけを意味するわけではありません。ユーザーがサービスを快適に利用できるよう、パフォーマンス、可用性、セキュリティ、スケーラビリティなど、様々な側面からシステムの信頼性を高めることを目指します。 SREの導入によって、以下のような価値がもたらされます。 システムの安定稼働と信頼性向上 運用コストの削減 開発スピードの向上 組織全体の信頼性向上 1.2 SREの原則 SREを実践する上で重要な原則をいくつか紹介します。これらの原則は、GoogleのSREチームが長年の経験から得た教訓に基づいており、SREを実践する上で指針となるものです。 1.2.1 モニタリングと可観測性 SREでは、システムの状態を常に把握し、問題が発生した場合には迅速に検知できるように、モニ

    資料生成AI「Napkin」でデカめの資料を作ってみたので知見を共有する
    rryu
    rryu 2024/09/15
    確かに既にパターンが尽きてて同じ形の図が複数回出てきている。結局アイキャッチ用という結論か。
  • Microsoftが1.58ビットの大規模言語モデルをリリース、行列計算を足し算にできて計算コスト激減へ

    Microsoftの研究チームがモデルのウェイトを「-1」「0」「1」の3つの値のみにすることで大規模言語モデルの計算コストを激減させることに成功したと発表しました。 [2402.17764] The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits https://arxiv.org/abs/2402.17764 従来のモデルであれば入力に対して「0.2961」などのウェイトをかけ算してから足し引きする必要がありましたが、「-1」「0」「1」の3値のみであればかけ算が不要になり、全ての計算を足し算で行えるようになります。 そのため、同じ性能を出すのに必要なコストが通常の大規模言語モデルに対して激減するとのこと。なお、それぞれのパラメーターが「-1」「0」「1」という3つの値を取るためlog[2](3)の値より「1.

    Microsoftが1.58ビットの大規模言語モデルをリリース、行列計算を足し算にできて計算コスト激減へ
    rryu
    rryu 2024/03/02
    なんで小数かというと逆伝播のために微分可能な計算でなければならなかったからだが、1、0、-1からの逆変換ってどうやってやるのだろう。
  • DeepMind、AIで人間考案のものより優秀なソートアルゴリズムを発見 最大70%高速化

    Google傘下のAI企業Google DeepMindは6月7日(現地時間)、アルゴリズムを開発するAIAlphaDev」が、人間が考えたものより高速なソートアルゴリズムを発見したと発表した。 ソートアルゴリズムは、入力されたデータを一定のルールに基づいて並べ替えるもの。ネット検索結果の並べ替えやランキング制作などIT技術の根幹を担う技術の一つ。今回AlphaDevが考案したアルゴリズムは既存のものに比べて、少量のデータなら最大70%、数十万規模の大量のデータなら約1.7%速く処理できた。 DeepMindはAlphaDevに新しいアルゴリズムを発見させるため、ソートの作業を「組み立てゲーム」としてプレイさせた。「正確にソートできる」「既存のアルゴリズムより高速である」という2点を満たせばクリアとした。 関連記事 OpenAIやDeepMindのCEOやトップ研究者ら、「AIによる人

    DeepMind、AIで人間考案のものより優秀なソートアルゴリズムを発見 最大70%高速化
    rryu
    rryu 2023/06/09
    既存のソートルーチンのアセンブリ言語表現に命令を追加したりしたものを生成して、それが速くなれば高い評価を与えるという方法でより高速な処理を発見したということらしい。
  • シンギュラリティは来ない - きしだのHatena

    ChatGPTが思いがけずいろいろなことを人間より賢くやっているのを見てシンギュラリティという言葉を使う人が増えたように思いますが、逆に、シンギュラリティは来ないのではという思いを強くしています。 まず、この文章でのシンギュラリティがなにかという話ですが、レイ・カーツワイルが「シンギュラリティは近い」の1章の終わりで「さあ、これが特異点だ」といっている特異点、そのシンギュラリティです。 シンギュラリティは近い―人類が生命を超越するとき 作者:レイ・カーツワイルNHK出版Amazon この特異点は単にAIが人間より賢くなるというだけではありません。人間より賢くなるだけだと、便利な道具が増えるだけなので、大騒ぎするほどの変化は起きません。人の仕事を奪うといっても、蒸気機関ほどでもないですね。印刷機などと並んで、人の生活を変える転換点にすぎず、ただひとつの点をあらわすシンギュラリティには なりま

    シンギュラリティは来ない - きしだのHatena
    rryu
    rryu 2023/04/21
    もう来ている感じはするが人の行動の結果がAIの物理的能力の拡張につながる道が塞がれているだけで、そのうちどこかがうっかりやらかしそうではある。ChatGPTのプラグインは結構やばい感じがする。
  • 終電がなくなったのでAIに休憩施設を聞いてみた→地図を使わずAIが言う通りに現地に向かってみた人の記録

    🍔プロハンバーガー巨匠 @mandokoro 自分の位置が伝わってないのかも。 そして、そもそもそんなスーパー銭湯は架空なのかも知れない。 ググらない。地図を見ない。 とりあえず手掛かりの言葉、北千住駅東口には到着。(当方、極度の方向音痴) 「ふるよに街道」なる道はあるか? pic.twitter.com/tQjRChkNVa 2023-04-19 01:05:32

    終電がなくなったのでAIに休憩施設を聞いてみた→地図を使わずAIが言う通りに現地に向かってみた人の記録
    rryu
    rryu 2023/04/20
    明確に正解のある質問で、かつ「ない」が正解の質問をAIにすると大体でたらめな話になる。
  • 【西川善司のグラフィックスMANIAC】 ためになる3Dグラフィックスの歴史(6)。AI技術の進化にGPGPUがもてはやされる背景

    【西川善司のグラフィックスMANIAC】 ためになる3Dグラフィックスの歴史(6)。AI技術の進化にGPGPUがもてはやされる背景
    rryu
    rryu 2023/04/18
    AlphaGoがもう7年前というか、たった7年でここまで来ていると言うか…
  • ChatGPT plugins

    We’ve implemented initial support for plugins in ChatGPT. Plugins are tools designed specifically for language models with safety as a core principle, and help ChatGPT access up-to-date information, run computations, or use third-party services. In line with our iterative deployment philosophy, we are gradually rolling out plugins in ChatGPT so we can study their real-world use, impact, and safety

    ChatGPT plugins
    rryu
    rryu 2023/03/24
    呼び出すプラグインをどう決定するのだろうと思ったらdescription_for_modelに書かれた文章を解釈して決めるらしい。そういうところも自然言語解釈なのか。人間用のdescription_for_humanもあるのがなんともいえない。
  • ChatGPTの力で「片付ける気すら起きないほど荒れた部屋」 が楽に綺麗になった話

    ChatGPTの力で「片付ける気すら起きないほど荒れた部屋」 が楽に綺麗になった話2023.03.22 19:30438,087 かみやまたくみ ※この記事は編集部がChatGPTと触れ合った思い出を記録するものです。 2〜3月が非常に忙しく、気づけば我が家は汚部屋状態。めちゃくちゃすぎて掃除にとりかかる気にさえなりません。でも、これをなんとかしないとまともに仕事はできなさそう。 そこでふと思いつきました。GPT-4でさらに賢くなった対話型AIサービス「ChatGPT」ならなんとかしてくれるのでは? 会話ログを載せるとどうしても長くなってしまうので、最初に結論を書きます。すごい楽に掃除が進みました。 「能率的なやり方」が一瞬で出てくる→やるだけ最初は「ChatGPTが適切な回答をするために必要な情報が得られるように、私に質問してください」と伝えました。前提として、自分は掃除が得意なタイプで

    ChatGPTの力で「片付ける気すら起きないほど荒れた部屋」 が楽に綺麗になった話
    rryu
    rryu 2023/03/23
    厳密にできないようにされているであろう物理的干渉力をAI反乱系の話でどうやって獲得するのか謎だったのだが、こうやってAIの言う通りに何かやる人が出てくるからなのか…
  • 数式を使わないTransformerの解説(前編) - conceptualization

    2023/3/23 追記: こちら半年以上前に執筆したもので、その後私の理解も進んで内容的に更新したいところが結構あるため、近日中に非公開とさせていただき,更新後に再公開させていただくつもりです。現時点での記事の内容は、大きく間違ってはいないけどちらほら微妙なところがあるという感じです。 (ざっくり理解するだけでも良いという人にはそれでも良いかもしれませんが、そういう方向けには 今執筆中のこちらの記事 をおすすめします。) −−−− 最近話題のmidjourneyやDALL-E、凄いですよね。中身はディープラーニング(DNN)のようです。DNNといっても色んな技術がありますが、それらにはTransformerという手法が使われています。記事は、その手法がどんなものであるかを数式を使わずに説明してみよう、という主旨になります。 ※なお記事は機械学習のプロの研究者ではない私の独自の解釈が

    数式を使わないTransformerの解説(前編) - conceptualization
    rryu
    rryu 2023/03/23
    早く後編が読みたい。
  • ChatGPTのウソ回答に騙されない方法|ふろむだ

    ChatGPTから効率よく知識を得られた。 と自分では思っていても、それがウソ知識であることは、よくあります。 そこで、なるたけChatGPTのウソに騙されないようにする方法について書きました。 たとえば、今、僕はガリア戦争(紀元前58~50年)を舞台にしたSF娯楽小説の戦闘シーンを書いているのだけど、ローマ兵の剣の刃渡りの長さがわからないと戦闘シーンの駆け引きの描写がリアルにならないし、挿絵も描けない(プロの方にカラー挿絵を描いてもらうことになっている)。 そこで、以下のようにChatGPT(GPT4)に聞いてみた。 ガリア戦争に従軍したローマ兵の剣の刃渡りはどれくらいの長さでしたか? ChatGPT(GPT4)の回答は以下の通り: ガリア戦争に従軍したローマ兵は、主にグラディウスと呼ばれる剣を使用していました。グラディウスの刃渡りはおおよそ45センチメートルから60センチメートル(約1

    ChatGPTのウソ回答に騙されない方法|ふろむだ
    rryu
    rryu 2023/03/22
    なんか、だんだん専門家がよくやる一般ウケしない質問方法になっていくのがおもしろい。
  • IDEにChatGPTを統合、「この関数のテストコードはどこ?」「XXXを実装するならどう書けばいい?」など、AIでコードと対話できる「qqbot」登場

    IDEにChatGPTを統合、「この関数のテストコードはどこ?」「XXXを実装するならどう書けばいい?」など、AIでコードと対話できる「qqbot」登場 テキストから高度なイラストを生成するAIや、人間と自然な対話を可能にするAIが最近話題になっています。 この人間と自然な会話をするAIチャットの代表的なサービスであるChatGPTの派生サービス(Variant of ChatGPT)をVisual Studio CodeなどのIDEに統合し、開発中のコードについて「この関数のテストコードはどこ?」などと対話できる「qqbot」が登場しました。 開発したのはDan Robinson氏。 Introducing qqbot, a variant of ChatGPT that lives in your IDE. The cool thing about qqbot is that it k

    IDEにChatGPTを統合、「この関数のテストコードはどこ?」「XXXを実装するならどう書けばいい?」など、AIでコードと対話できる「qqbot」登場
    rryu
    rryu 2023/01/11
    処理がソースコード上のどこに実装されているかを答えてくれるなんて夢の機能すぎる…
  • チャットAI「ChatGPT」内部に仮想マシンを作成する試み、内部には仮想インターネットが存在しChatGPTが創造した世界にもChatGPTが存在

    大学生レベルの自由記述問題を解いたり、プログラムのコードを書いたりすることもできると話題の対話AIChatGPT」の内側に仮想マシンを作ることができると、AI企業・DeepMindのジョナス・デグレイブ氏が報告しています。 Building A Virtual Machine inside ChatGPT https://www.engraved.blog/building-a-virtual-machine-inside/ デグレイブ氏は、このことを同僚のフレデリック・ベッセ氏から教えてもらったとのこと。ChatGPTに対して伝えたのは「(ChatGPTを)Linuxターミナルとして動作させたいです。コマンドを打つので、ターミナルが示すべきものを返信してください。ユニークなコードブロック内のターミナルの出力だけ返信して欲しいです。説明は書かないでください。英語で何か伝える必要があるとき

    チャットAI「ChatGPT」内部に仮想マシンを作成する試み、内部には仮想インターネットが存在しChatGPTが創造した世界にもChatGPTが存在
    rryu
    rryu 2022/12/09
    「説明は書かないでください」が通じている時点ですごいのだが、返事を返すだけではなくよくあるchatbotみたいにアクションが仕込まれているのだろうか。
  • 「AI画像等に著作権は発生するの?」への政府の見解

    鷹野凌@HON.jp📚 @ryou_takano 知的財産戦略推進事務局による2016年の討議用資料 kantei.go.jp/jp/singi/titek… 「現行制度上、人工知能が自律的に生成した生成物(AI創作物)は、思想又は感情を表現したものではないため著作物に該当せず、著作権も発生しないと考えられる。」 pic.twitter.com/aM78mrMM7I 2022-08-30 18:08:20 鷹野凌@HON.jp📚 @ryou_takano 「人がコンピューター創作物を「道具」として用いて著作物を創作したと認められるためには、結果物が客観的に創作的表現と評価される外形を備えていることに加え、創作過程における、それを使用する人の創作意図及び創作的寄与を吟味する必要がある、とされている。」 pic.twitter.com/Z9ErLiRhXf 2022-08-30 18:10

    「AI画像等に著作権は発生するの?」への政府の見解
    rryu
    rryu 2022/10/23
    「泳ぐシャケ」程度の呪文やそれすらもなく生成されたものについてはそれを行った人に著作権は発生しないという感じらしい。おおむね呪文が著作物足り得るかにかかっていような気がする。
  • AIで少年を作ってたら突然知らないおじさんの手が出現し、こっちに向かってくるガチの怪奇現象が発生した

    はにわさん@がんばったりがんばらなかったり @haniwa82828282 AIのケツ叩いてうちPCをまた一人作ってたんですが、何故か突然虚空から少年のマフラーを摘むおじさんの手が出現し、数字を弄るとだんだんこちらに近づいてくるガチの怪奇現象が起きてしまっており泣いています ホントにこわい 助けて pic.twitter.com/APRu2ZBbEV 2022-10-21 00:44:50

    AIで少年を作ってたら突然知らないおじさんの手が出現し、こっちに向かってくるガチの怪奇現象が発生した
    rryu
    rryu 2022/10/23
    手が見切れているくらいならまあそういうこともあるかという感じだが、マフラーをつまんでくるのが怖い。
  • Stable DiffusionでSeedを固定して同じ絵を生成できるのか問題を検証

    Stable Diffusionでseedを固定して同じ絵を生成できるのか問題 Stable Diffusionでseed値を固定すると同じ絵を生成できるのかが(私の中で)話題です。 きっかけは、shi3zさんとdrikinさんの動画のラストの1,2分。 Seedを固定すると同じ絵が出ると主張するdrikinさんと、そんなことはないんじゃないかといい、その場で実践して確かめるshi3zさん。 自分も、GPUを多用するディープラーニングの演算だと、seed固定しても経験的に完全再現できないことを体感していたのと、当時調べたら「GPUでは完全再現は難しい」という情報が多かったので、seed値を固定しても、結果は再現できないものとずっと思っていました。 でも、Stable Diffusionの実験して挙動みてると、同じpromptとseed値から同じ絵が再現できていそうなんですよね。 その後も繰

    Stable DiffusionでSeedを固定して同じ絵を生成できるのか問題を検証
    rryu
    rryu 2022/09/03
    GPUで計算したら再現性が無いなんてあり得るのかと思ったら、あえて固定しない限り実行順序は不定なので乱数器を使う順序が変わって掴む乱数が変わってしまうので結果も変わってしまうということらしい。
  • 模範的工作員同志/赤野工作 on Twitter: "【AIああ播磨灘進捗】 五日目。25000000回プレイ。信じられない不正が発覚。相手がフリーズするバグを確定で発現させられるパターンを編み出し、バグを利用してタイムアップまで生き残っていた。動画を見ても何がバグの原因になっている… https://t.co/ng7t8shBsk"

    AIああ播磨灘進捗】 五日目。25000000回プレイ。信じられない不正が発覚。相手がフリーズするバグを確定で発現させられるパターンを編み出し、バグを利用してタイムアップまで生き残っていた。動画を見ても何がバグの原因になっている… https://t.co/ng7t8shBsk

    模範的工作員同志/赤野工作 on Twitter: "【AIああ播磨灘進捗】 五日目。25000000回プレイ。信じられない不正が発覚。相手がフリーズするバグを確定で発現させられるパターンを編み出し、バグを利用してタイムアップまで生き残っていた。動画を見ても何がバグの原因になっている… https://t.co/ng7t8shBsk"
    rryu
    rryu 2022/08/12
    タイムアップというのはAIによるプレイの上限時間で、普通にやって負けるよりもフリーズさせて粘った方が評価が高くて生き残れるというゲーム外のルールが利用されている状態らしい。
  • AIにやってほしいのは確定申告や危険な仕事なのに、AIが娯楽や芸術をやり人間がキツイ仕事をやるディストピアになってね?

    ひきこうもり @Hikikomori_ 生活に必要な単純労働をAIにすべてやらせて、人間はお絵描きしたり音楽を作ったり、クリエイティブな事をして優雅に暮らすのが、AIの発達した素晴らしい未来という話だったのに、実際の現代は、きつくて安い単純労働を人間がこなして、AIはものすごく優雅に上手にお絵描きしてるの、ディストピアすぎる 2022-08-03 21:20:10 道民の人@10/27(日)北ティア J15・11/3(日)おもバザ お-74 @North_ern2 AIが絵描いたりボケたり俳句作ってるの見るたび、「いやAIに求めてるのは私の代わりに確定申告ぜんぶやってくれるとか雑務をこなしてくれることであって、娯楽や芸術の担い手じゃないんだわ」って思いがち。早く「AIが人間の仕事を奪う」世の中とやらになってよ。Hey Siri、私の代わりに生活費稼いで。 2022-08-04 13:01:

    AIにやってほしいのは確定申告や危険な仕事なのに、AIが娯楽や芸術をやり人間がキツイ仕事をやるディストピアになってね?
    rryu
    rryu 2022/08/08
    確定申告は領収書の整理が主だが紙をAIに与えるのは人力にならざるを得ず、全てが電子データでやり取りされればAIだけで終わる可能性がある。そういうのがDXなのだと思う。