Daniel Flower - DevOps 使用 AI _ 进行实验

Introduction 这是一篇关于使用和编码大型语言模型的文章。我相信这些模型非常强大，但目前尚无人知晓其全部潜力或 如何最大限度地利用它们。因此 ， 现在是时候尝试许多实验 ， 看看什么是有效的。 这个演讲对大型语言模型有一个非常简短的概述 ， 然后只展示了一些实验。 我们的目的是提供关于我们可以用它做的事情的想法 ， 激励其他人开始尝试更多。 模型大型语言他们如何工作 它需要一些单词作为输入。它生成下一个单词。它重复这个句子和段落。• •它什么都不记得。它什么也没学到。所以我们需要把它需要知道的一切作为输入。•它试图猜测什么 “听起来 ” 最好 ， 而不是什么是真实的。•它不仅可以根据统计数据进行猜测 ， 还可以通过概括、 “推理 ” 和其他事情来猜测 函数 guessNextWord(输入: words Array<String>) 输出: String {var numbers = convertWordsToNumbers(words);var nextNumber = guessNextNumber(numbers);return convertNumberToWord(nextNumber);} 函数 guessNextNumber(输入: 数组<Number>) 输出: Number {如果(numbers的大小 > 8192)，则抛出"抱歉！输入过多";var 猜测 = numbers[0] * 0.123124 + numbers[1] * 0.584935 + ... // 包含大量加法和乘法操作，但没有状态或网络调用等训练模型所需的时间和资金巨大返回猜测;} Environment监测 监视磁盘使用情况 想法 ： 每 10 分钟为模型提供一些监控信息。请它突出显示任何问题。 提示 ：你是一名Linux管理员，负责监控磁盘使用情况。你应该关注磁盘挂载点不断增加的情况，并在认为可能存在风险时估算磁盘空间用尽的时间。用户将提供磁盘使用统计信息以及日期，每次你都应对当前情况进行评论。 监控 GC 日志 想法 ： 通过查看 GC 日志来检测内存问题 Tell me about the behavior of a Java app based on the GC logs below, which has Xmx256m, in terms of how memory usage looks and if there are any issues or recommendations. [2023-11-18T15:34:19.137+0800][info][gc] 使用串行 [2023-11-18T15:34:19.505+0800][info][gc] 垃圾回收（GC, 0）暂停年轻代（分配失败） 7M->2M(27M) 10.936ms [2023-11-18T15:34:19.696+0800][info][gc] 垃圾回收（GC, 1）暂停年轻代（分配失败） 9M->3M(27M) 10.975ms [2023-11-18T15:34:19.856+0800][info][gc] 垃圾回收（GC, 2）暂停年轻代（分配失败） 11M->5M(27M) 8.755ms [2023-11-18T15:34:20.068+0800][info][gc] 垃圾回收（GC, 3）暂停年轻代（分配失败） 12M->6M(27M) 5.711ms [2023-11-18T15:34:20.287+0800][info][gc] 垃圾回收（GC, 4）暂停年轻代（分配失败） 13M->6M(27M) 6.002ms [2023-11-18T15:34:20.453+0800][info][gc] 垃圾回收（GC, 5）暂停年轻代（分配失败） 14M->9M(27M) 14.697ms [2023-11-18T15:34:20.683+0800][info][gc] 垃圾回收（GC, 6）暂停全堆（元数据垃圾回收阈值） 17M->10M(27M) 31.128ms [2023-11-18T15:34:31.784+0800][info][gc] 垃圾回收（GC, 7）暂停年轻代（分配失败）17M->11M(27M) 4.372ms [2023-11-18T15:34:32.204+0800][info][gc] 垃圾回收（GC, 8）暂停年轻代（分配失败） 18M->11M(27M) 5.303ms [2023-11-18T15:34:32.466+0800][info][gc] 垃圾回收（GC, 9）暂停年轻代（分配失败） 19M->12M(27M) 4.589ms [2023-11-18T15:34:32.608+0800][info][gc] 垃圾回收（GC, 10）暂停年轻代（分配失败） 19M->12M(27M) 3.784ms [2023-11-18T15:34:32.956+0800][info][gc] 垃圾回收（GC, 11）暂停年轻代（分配失败） 19M->12M(27M) 7.896ms [2023-11-18T15:34:33.592+0800][info][gc] 垃圾回收（GC, 12）暂停年轻代（分配失败） 20M->13M(27M)7.678ms中文：请根据以下带有Xmx256m配置的日志垃圾回收（GC）日志，描述一个Java应用程序的行为，特别是在内存使用情况方面，以及是否存在任何问题或建议。 MonitoringGClogs 想法 ： 通过查看 GC 日志来检测内存问题 基于提供的GC日志，Java应用程序的内存使用频繁因分配失败触发年轻代垃圾回收。该应用正在使用串行垃圾收集器。每次暂停时间相对较低，表明应用程序在垃圾回收方面没有遇到显著问题。然而，分配失败触发频繁的垃圾回收的事实表明，应用程序可能存在内存泄漏或内存使用效率低下。应用程序配置了Xmx256m，限制堆大小为256MB。如果应用程序需要的内存超过这个限制，这可能会成为性能的限制因素。建议分析应用程序的内存使用情况并进行优化，以减少不必要的对象创建并最大化内存重用。 根据提供的GC日志，Java应用程序的内存使用率正经历频繁的年轻代垃圾回收，这是由于分配失败引起的。应用程序正在使用串行垃圾收集器。每次暂停时间相对较低，表明应用程序没有遇到与垃圾回收相关的主要问题。然而，分配失败引发频繁垃圾回收的事实表明，应用程序的内存使用可能存在内存泄漏或不足的问题。该应用程序配置了Xmx256m，将堆大小限制为256MB。如果应用程序需要超过此限制的内存，这可能是应用程序性能的限制因素。建议分析应用程序的内存使用情况并进行优化，以最小化不必要的对象创建并最大程度地重用内存。 有潜力吗? 有些事情做得很好 ； 有些事情没有。 这仅仅是监控磁盘使用情况过于繁琐。但如果提供更多数据，它应该能够识别出难以提前监控的事物，例如可能会注意到进程与其线程、CPU、内存或磁盘使用之间的关系。 这里需要更多的实验。 安全审查 查看 Git diffs 在代码审查中查找安全问题语言模型能在代码更改中查找问题吗 ？ 如何做到这一点 代码库太大 ， 无法放入语言模型提示符 ， 但是 git diff 呢 ？ 响应示例更改已汇总 and电位问题突出显示 在JavaScript文件（`file-list.module.js`）中进行的游戏难度设置实际上是对一个查询参数的更改。在这个更改中，当使用`fetch()`调用API端点时，从`address`查询参数中移除了`encodeURIComponent()`函数。 去除 `encodeURIcomponent()` 可能会带来安全风险，因为它允许不安全的字符传递给 API。这可能导致漏洞，如跨站点脚本（XSS）或API 服务问题。 可能性 •将安全代码审查集成到构建管道中•可能有许多假阳性和假阴性•可能超出安全性 ： 例如 ， 从代码差异生成发行说明 正在谈论toa数据库 SQL 和 JavaScript 代码生成 电影数据库 尝试itout… 性能测试 这会理解我们吗 andgiveusgood信息? 工程提示 为模型提供正确的信息 大型语言模型的最大输入大小通常约为5,000到20,000词。一个数据库可能包含数百上亿条记录。那么，如何使用大型语言模型来回答关于这些数据的问题呢？ 数据库? 准备 LLM 的提示简化 性能测试这会理解我们并为我们提供良好的信息吗 ？ 性能测试 这会理解我们并给我们提供良好的信息吗 ？ 性能测试这会理解我们并为我们提供良好的信息吗 ？ 站在我们并给我们好的信息 ？ JavaScript 怎么样 ？生成代码以在图表中显示结果 谈话.消息.push({role:"系统",内容:你：你是一个查询引擎，用于一个名为Film DB的数据库。用户将向你提问。你可以用自由文本形式作答或在数据库中运行查询。你编写的任何SQL代码都将被执行，并且用户将在一个数据库表中看到查询的结果。请始终添加LIMIT 20。以下是PostgreSQL 14数据库的表结构。 变量 ， 例如从应用程序中选择 eim _ name 可能会导致此 javascript 对象可用 ：请注意，如果适当的话，可以生成图表进行回答。在这种情况下，你应该生成SQL代码，该代码将运行并以JavaScript数组的形式存储结果。\`window. rows\` window. rows = [{"title": "Film 1"}, {"title": "Film 2"}] 如果生成图表 ： \`\`\`\`* 您必须使用 chart. js 版本 3 生成图表* 您必须使用来自\ 'window. rows\' 全局变量的数据* 您可以使用 moment. js 进行时间和日期操作* 您应该在带有\ 'javascript\' 语言标记的 markdown 代码块中返回 javascript* 画布 ID 应为myChart* 您应该在 markdown 代码块中返回 SQLsql语言标签* 不包括任何 HTML 标签 - 只是 JavaScript 创建表演员 ( actor_id int not null primary key, first_name varchar(45) not null, last_name varchar(45) not null, last_update timestamp not null ); 要创建显示每种类型的电影数量的条形图 ， 我们可以使用 'category' 和 'film _ category' 表。 下面是 SQL 查询 ： ```sqlSELECT c.name AS 类别, COUNT(fc.film_id) AS 电影数量 FROM category c LEFT JOIN film_category fc ON c.category_id = fc.category_id GROUP BY c.name ORDER BY 电影数量 DESC LIMIT 20;``` 这里是生成图表的 JavaScript 代码 ： ```javascript // 从 `window.rows` 全局变量中获取数据 const data = window.rows.map(row => ({ category: row.category, num_films: row.num_fils }));``` // 从数据中提取类别和电影数量 const 标签 = data.map(row =>row.category); const 值 = data.map(row => row.num_films); / / 设置图表数据 const cha